IA Generativa en el trabajo y los problemas de privacidad
Problemas de privacidad al usar IA Generativa en el trabajo

IA Generativa en el trabajo y los problemas de privacidad

Las herramientas de IA generativa, como ChatGPT de OpenAI y Copilot de Microsoft, están evolucionando rápidamente, lo que genera preocupaciones sobre posibles problemas de privacidad y seguridad, especialmente en el entorno laboral.

En mayo, defensores de la privacidad calificaron la nueva herramienta Recall de Microsoft como una “pesadilla para la privacidad” por su capacidad para realizar capturas de pantalla de la laptop en pocos segundos. Por lo tanto, esta función llamó la atención de la Oficina del Comisionado de Información del Reino Unido (ICO), que pidió a Microsoft más detalles sobre la seguridad del producto, el cual está próximo a lanzarse en las computadoras Copilot+.

También hay inquietud sobre ChatGPT de OpenAI, que puede hacer capturas de pantalla en su aplicación para macOS, lo que podría resultar en la captura de datos sensibles, según expertos en privacidad.

Acciones de los gobiernos por la falta de privacidad

La Cámara de Representantes de EE.UU. ha prohibido el uso de Microsoft Copilot entre su personal debido a riesgos de filtración de datos hacia servicios en la nube no autorizados, según la Oficina de Ciberseguridad.

Gartner ha advertido sobre los riesgos de exposición de datos al usar Copilot para Microsoft 365, y Google ajustó su nueva función AI Overviews después de que se viralizaran capturas de respuestas engañosas a consultas.

Fallas de privacidad en el trabajo

La sobreexposición de datos es un reto significativo para quienes usan IA generativa en el trabajo. Camden Woollven, jefe de IA en GRC International Group, señala que estos sistemas absorben grandes cantidades de información de internet para entrenar sus modelos. Steve Elcock, CEO de Elementsuite, destaca que las empresas de IA buscan muchos datos para entrenar sus modelos, lo que aumenta el riesgo de que información sensible termine en el ecosistema de otro.

Además, los sistemas de IA pueden ser objetivos de hackers. Si un atacante accede al gran modelo de lenguaje de una empresa, podría desviar datos confidenciales o utilizar la IA para propagar malware, según Woollven.

Las herramientas de IA de consumo pueden crear riesgos claros, pero también surgen problemas con las soluciones patentadas, consideradas generalmente seguras para el trabajo, como Microsoft Copilot, según Phil Robinson de Prism Infosec. Estos programas podrían ser utilizadas para consultar datos confidenciales si no se han bloqueado los privilegios de acceso.

Vigilancia empresarial

Otra preocupación es el uso de IA es la vigilancia a los empleados, vulnerando potencialmente su privacidad. Microsoft afirma que las instantáneas de Recall permanecen localmente en la PC del usuario y, por lo tanto, mantiene el control sobre ellas, pero Elcock advierte que esta tecnología podría utilizarse para la vigilancia laboral.

Para mejorar la privacidad y seguridad, las empresas y empleados deben evitar incluir información confidencial en herramientas de acceso público como ChatGPT, recomienda Lisa Avvocato de Sama. También sugiere ser genérico en las consultas y validar la información proporcionada por la.

Microsoft subraya la importancia de configurar correctamente Copilot y aplicar el “mínimo privilegio”, según Robinson de Prism Infosec. Además, OpenAI dice que sus productos están diseñados para proteger la privacidad y no utilizan datos para entrenar sus modelos, a menos que el usuario lo desactive.

Las empresas que integran IA generativa declaran que hacen todo lo posible por proteger la seguridad y privacidad. Microsoft, Google y OpenAI destacan sus medidas para garantizar la seguridad de los datos.

La IA generativa está aquí para quedarse y, a medida que se vuelva más sofisticada y omnipresente, los riesgos también aumentarán, advierte Woollven. Es crucial tratar la estas soluciones como cualquier otro servicio de terceros y no compartir nada que no se quiera difundir públicamente.

También te puede interesar: Primeros pasos para la automatización de servicios empresariales sin dolor

BMC Helix ITSM con IA Generativa

La gestión de servicios de BMC Helix ITSM esta impulsada por tecnologías disruptivas como la inteligencia artificial (IA) y el aprendizaje automático (ML), los chatbots, los agentes virtuales y el Internet de las cosas (IoT), que están impulsando cambios dramáticos en la forma en que las empresas brindan servicios en el futuro.

Contacta a nuestros especialistas y comprueba porque los líderes empresariales inteligentes están realizando cambios y usando BMC Helix ITSM para resolver desafíos comerciales reales y obtener una ventaja competitiva en el mercado.

Consulta la información original.

Acelera la orquestación de procesos con una plataforma low-code

La orquestación de procesos unifica las tareas individuales para lograr una automatización de extremo a extremo. Descubre más en este post

¿Cuáles son los beneficios de una herramienta de gestión documental?

Una herramienta clave para el futuro empresarial es la gestión documental. En este artículo exploramos los beneficios de una plataforma.

Enfrentándose a la deuda técnica y el papel de una plataforma de low-code

La deuda técnica es el resultado de utilizar a tajos en el desarrollo de software que generan problemas a largo plazo, ¿Cómo se puede superar?

IT Operations Management ¿es la clave para una funcionalidad perfecta?

La gestión de operaciones de TI o IT Operations Management es la clave de la eficiencia para las organizaciones, pero ¿cómo funciona?

4 etapas para lograr una transformación digital exitosa

Exploramos ¿Cómo empezar tu transformación digital si fallar en el intento?, es cuestión de paciencia y respetar las etapas del proceso.

Libérate del caos de las hojas de cálculo y los correos electrónicos con automatización

Abordamos los peligros de gestionar el trabajo con hojas de cálculo y correos electrónicos y algunos desafíos al iniciar la automatización.

ServiceOps: simplifica la complejidad y acelera la innovación con BMC Helix

Conoce ServiceOps, la fusión de la gestión de servicios y operaciones, es un enfoque que está ganando terreno entre los negocios disruptivos.

Impulsar la innovación en la era de la IA con Connected Digital Ops

Connected Digital Ops es un nueva metodología que combina diferentes enfoques para aprovechar la IA en la gestión de operaciones

Elimina el Shadow IT e impulsa el cumplimiento y la seguridad

Shadow IT implica el uso de aplicaciones no autorizadas, que puede implicar enormes riesgos de seguridad y cumplimiento, aprende a mitigarlos

Desafíos de la gestión de activos tecnológicos y cómo superarlos

Un mal seguimiento y gestión de activos de TI, desde hardware y software o recursos virtuales pueden afectar la eficiencia operativa y riesgos