ChatGPT pone a reflexionar a gobiernos sobre regulaciones para IA
A medida que incrementan las preocupaciones sobre la seguridad de ChatGPT, la administración de Biden analiza la elaboración de controles de políticas de IA
No sólo es Estados Unidos, según informes, Samsung limitó el uso de ChatGPT después de que los empleados le proporcionaron datos confidenciales. Además, cómo la mala gestión de contraseñas permite a los ex empleados acceder a las cuentas de los empleadores. ¡Y mucho más!
1. ChatGPT pone a reflexionar sobre regulaciones para IA
Sin un final a la vista para la fascinación del mundo por los chatbots generativos de IA como ChatGPT, la administración de Biden ya está considerando crear “barreras de seguridad” para proteger a los ciudadanos estadounidenses de los abusos de la inteligencia artificial.
La Administración Nacional de Telecomunicaciones e Información (NTIA), que asesora a la Casa Blanca, busca comentarios públicos sobre la “responsabilidad de la IA”. Los comentarios ayudarán a la administración a desarrollar políticas a través de auditorías, evaluaciones, certificaciones y otros mecanismos de IA para promover la confianza en estos sistemas y garantizar que funcionen según lo previsto y sin dañar a las personas.
“Las empresas tienen la responsabilidad de asegurarse de que sus productos de IA sean seguros antes de ponerlos a disposición”, se lee en el anuncio de la NTIA. ¿El mundo no está preparado para lidiar con las consecuencias del abuso y mal uso de las poderosas capacidades de estos productos?
Esa declaración toca preguntas clave planteadas repetidamente el lanzamiento de ChatGPT de OpenAI y otros chatbots generativos de IA: ¿Se lanzaron al público prematuramente? ¿El mundo no está preparado para lidiar con las consecuencias del abuso y mal uso de las poderosas capacidades de estos productos?
La NTIA está interesada en plantear preguntas como: ¿Qué pruebas de confianza y seguridad deben realizar los desarrolladores de sistemas de IA? ¿Cómo pueden los reguladores fomentar la rendición de cuentas entre los desarrolladores de sistemas de IA?
2. Y otro recordatorio de que ChatGPT no guarda secretos…
Ha sido una advertencia regular: no ingreses información confidencial en ChatGPT porque todos los datos que ingresan los usuarios se incorporan a su vasto almacén de datos. Una vez allí, el chatbot de IA podría usarlo para responder las preguntas de otros usuarios.
Bueno, ahora tenemos un ejemplo del mundo real de este error: según informes, los empleados de Samsung proporcionaron al chatbot de IA información privada y confidencial sobre la empresa, incluido un código fuente patentado y minutas de reuniones. Esto según la edición surcoreana de la revista The Economist que informó que, en respuesta, la compañía ahora está limitando el uso de ChatGPT.
3. ¿Cuál es tu preocupación número 1? ¿Cómo priorizas la corrección de errores?
Esas fueron dos de las preguntas que hicimos a los participantes en nuestro seminario web ‘Tenable Research Shares Your 2022 Recap and Defender Recommendations for 2023’ en el que los expertos de Tenable discutieron sobre un informe que publicamos recientemente. Estas fueron sus respuestas:
4. Un problema de contraseñas: personas que usan cuentas de ex empleadores
¿Podría tu empresa, sin darse cuenta, estar dando a los ex empleados acceso a sus servicios de suscripción de paga, software comercial, bandejas de entrada de correo electrónico y otros recursos digitales? Aparentemente, sucede más a menudo de lo que uno pensaría y la mala gestión de contraseñas es la culpable.
Esto es según una encuesta de Password Manager que encontró que el 47% de los empleados de Estados Unidos han accedido a al menos una de las cuentas digitales de sus antiguos empleadores. Estos ex empleados usan contraseñas que tenían cuando trabajaban allí.
¿Qué hacen? Muchos se aprovechan de las herramientas pagadas y algunos incluso manipulan maliciosamente sus sistemas y datos. Se realizó a una encuesta a personas que han logrado entrar a sus antiguos correos y esto fue lo que contestaron:
¿Cómo pudo acceder a las contraseñas de sus antiguos empleadores?
Y se pone peor: entre aquellos que han usado las contraseñas de sus antiguos empleadores, solo el 15% dijo que los descubrieron haciéndolo, y un tercio dijo que las contraseñas funcionaron durante más de dos años, aunque un pequeño porcentaje las usó por más de 10 años.
¿Durante cuánto tiempo usó o ha estado usando las contraseñas de sus antiguos empleadores?
La motivación para la mayoría de estos ex empleados es ahorrar dinero en herramientas y servicios que de otro modo tendrían que pagar (58%), mientras que otros, alrededor del 10% quieren interrumpir las operaciones de un ex empleador.
Las empresas deben mejorar en la gestión de sus contraseñas. Entre las recomendaciones de Password Manager están:
- Designar a un miembro del personal de alto nivel para que esté a cargo de las políticas y procesos de administración de contraseñas.
- Desde la incorporación del empleado explicar qué se considera manejo autorizado y no autorizado de propiedad intelectual e información de propiedad.
- Crear incentivos para la gestión adecuada de contraseñas y cuentas de las empresas.
- Actualizar continuamente su inventario de activos protegidos con contraseña y calificar su criticidad.
- Crear procedimientos operativos estándar y cronogramas para actualizar contraseñas.
