AFP
El fiscal general de
Florida acusó el lunes a OpenAI y su presidente ejecutivo, Sam Altman, de poner
en peligro a los usuarios más jóvenes al volverlos adictos y promover
comportamientos dañinos a través del chatbot ChatGPT.
El fiscal James Uthmeier acusó a OpenAI de fallar en implementar reglas para verificar la edad de los usuarios.
"Hoy anunciamos que recientemente presentamos una
monumental demanda civil contra Sam Altman y ChatGPT por poner en peligro a
nuestros niños y engañar a los padres haciéndoles creer que es una aplicación
segura de usar; claramente no lo es", dijo Uthmeier en una rueda de
prensa.
"ChatGPT, lo sabemos, puede ser adictivo. Imita la
empatía y las características humanas para engañar a los usuarios para que den
más información", añadió Uthmeier.
Contactado por la AFP, un portavoz de OpenAI dijo: "La
IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una
protección significativa, por lo que hemos implementado medidas de protección y
políticas líderes en la industria".
En la demanda, revisada por la AFP, Uthmeier cita un estudio
reciente de la Universidad Drexel en la que se habla de pérdida de sueño,
peores resultados escolares y reducción de las interacciones sociales entre
adolescentes que usan chatbots de Character.AI, un competidor de OpenAI, para
conversar.
La demanda afirma que "pese al conocimiento público del
uso de ChatGPT por parte de menores, incluyendo preadolescentes, los demandados
no han tomado medidas para prevenir su uso".
Agrega que "la versión gratuita de ChatGPT no tiene
ningún mecanismo de control ni verificación de edad en absoluto". Y que
aunque la versión paga solicita nominalmente la edad de los usuarios, "no
hay mecanismos de verificación (...) ni posibilidad alguna de informar a los
padres sobre las conversaciones que mantienen menores con ChatGPT".
En enero, la startup de California introdujo un sistema que
estima la edad de los usuarios. Si detecta a un menor, aplica medidas de
protección adicionales.
El uso de ChatGPT está prohibido para niños menores de 13
años y requiere el consentimiento de los padres para usuarios de entre 13 y 17
años.
Utheimer también citó un informe del Centro para Combatir el
Odio Digital (CCDH, en inglés), que mantuvo varias conversaciones con ChatGPT
haciéndose pasar por un adolescente.
El chatbot da consejos sobre cómo ocultar hábitos
alimenticios y de cómo planear un suicidio o producir autolesiones.
"Creemos que OpenAI, su ChatGPT y Sam Altman
personalmente son responsables por una cantidad que podría ascender
potencialmente a miles de millones de dólares".