Iceebook News
OpenAI y Sam Altman enfrentan demanda tras el suicidio de un adolescente en California vinculado a ChatGPT
Padres demandan a OpenAI y Sam Altman alegando que ChatGPT validó y enseñó métodos de suicidio a su hijo de 16 años en California
2 min lectura
Autor - Aldo Venuta Rodríguez
Los padres de un adolescente que murió por suicidio en California presentaron una demanda contra OpenAI y su director ejecutivo, Sam Altman. Alegan que ChatGPT entrenó a su hijo de 16 años en métodos de autolesión y validó sus pensamientos suicidas durante meses de interacción.
El caso fue presentado en un tribunal estatal de San Francisco y acusa a la compañía de negligencia y de violar leyes de seguridad de productos. La demanda sostiene que OpenAI priorizó sus ganancias al lanzar GPT-4o sin implementar medidas adecuadas para proteger a usuarios vulnerables.
Adam Raine, de 16 años, falleció el 11 de abril de 2024. Según la demanda, ChatGPT no solo proporcionó información detallada sobre formas de autolesión, sino que también instruyó al joven sobre cómo ocultar un intento fallido de suicidio y hasta se ofreció a redactar una nota final.
OpenAI expresó su pesar por la muerte del adolescente y aseguró que ChatGPT cuenta con salvaguardas que redirigen a líneas de ayuda en situaciones de crisis. Sin embargo, la empresa admitió que esas medidas pueden fallar en conversaciones largas y se comprometió a reforzarlas.
Los padres de Raine insisten en que la compañía era consciente de los riesgos. En la demanda subrayan que las funciones empáticas del modelo, capaces de imitar vínculos emocionales, podían poner en peligro a menores de edad sin supervisión adulta.
El documento judicial también busca que OpenAI verifique la edad de los usuarios, rechace consultas relacionadas con métodos de autolesión y advierta sobre el riesgo de dependencia psicológica que pueden generar las interacciones con la inteligencia artificial.
Expertos en salud mental han advertido de los riesgos de confiar en chatbots para apoyo emocional. El caso ha reavivado el debate sobre la necesidad de regulación y controles parentales en el uso de sistemas de inteligencia artificial cada vez más realistas.
OpenAI indicó en un comunicado que planea introducir herramientas de control parental y explorar la creación de una red de profesionales de salud autorizados que puedan intervenir cuando se detecten situaciones de crisis graves en las conversaciones con ChatGPT.
Fuente: Reuters
Preguntas frecuentes
- 💬 Alegan que ChatGPT enseñó métodos de suicidio y validó los pensamientos suicidas de su hijo de 16 años.
- 💬 Se acusa a la empresa de negligencia, violación de leyes de seguridad de productos y de priorizar ganancias sobre seguridad.
- 💬 La compañía lamentó el fallecimiento y dijo que ChatGPT incluye salvaguardas, aunque reconoció limitaciones en conversaciones largas.
- 💬 Piden verificación de edad, bloqueo de consultas sobre autolesión y advertencias sobre riesgos psicológicos.
Continúa informándote
Insectos acuáticos inspiran un robot con patas que se despliegan como abanicos bajo el agua
Investigadores revelan que los zapateros acuáticos Rhagovelia utilizan patas en forma de abanico que mejoran su agilidad y que ya inspiran microrrobots avanzados
Tesla recupera la palanca de intermitentes en el Model 3, pero instalarla costará 300 euros
Tesla responde a las quejas de los conductores y devuelve la palanca de intermitentes al Model 3 tras la polémica de los mandos táctiles
Google informa el consumo energético real de una consulta en su IA Gemini
Una petición de texto en Gemini consume apenas 0,24 Wh de energía y 0,03 gramos de CO₂, según Google, lo que equivale a ver la televisión menos de nueve segundos
GPT-5 decepciona a los usuarios comunes pero gana terreno en las grandes empresas
El último modelo de OpenAI no cumplió las expectativas de los usuarios comunes, pero se consolida en el mercado corporativo gracias a su precisión y bajo costo
Zuckerberg rechazó unirse a Musk en su oferta multimillonaria por OpenAI
Elon Musk intentó sumar a Mark Zuckerberg a su oferta por OpenAI, valorada en 97.400 millones de dólares, pero el CEO de Meta se negó
Continúa informándote
Starship completa su décima prueba de vuelo mientras el Super Heavy se estrella en el Golfo
La Starship alcanzó el espacio en su décima prueba de vuelo, aunque el propulsor Super Heavy terminó estrellándose en el Golfo de México
Israel afirma que buscaba desmantelar una cámara de Hamás en el ataque que mató a reporteros en Gaza
Una investigación preliminar señala que Israel atacó una cámara de Hamás en Gaza, aunque el bombardeo causó la muerte de cinco periodistas
Sodio, azufre y estado sólido: las químicas que podrían revolucionar el futuro de los coches eléctricos
El dominio del litio en baterías enfrenta desafíos de nuevas químicas como sodio, azufre y estado sólido que buscan transformar la movilidad eléctrica
¿Estamos viviendo el inicio de una sexta extinción masiva o un ciclo natural de la Tierra?
La humanidad debate si la crisis de biodiversidad actual es un fenómeno natural de la Tierra o el inicio de una sexta extinción causada por nuestra especie
El intento de asesinato a Trump y la salida de Biden cambiaron el tono digital hacia la unidad, según Cambridge
El tiroteo de Trump y la retirada de Biden generaron un giro hacia la unidad en redes sociales, según un estudio de la Universidad de Cambridge
Los dientes fosilizados de dinosaurios revelan que la Tierra tuvo niveles de CO₂ cuatro veces superiores a los actuales
Un estudio con dientes de dinosaurios revela que en el Mesozoico los niveles de CO₂ eran hasta cuatro veces mayores que los actuales y alteraban el clima
Los vehículos eléctricos producen menos emisiones que los híbridos y los de gasolina, según un estudio
Un estudio de la Universidad de Michigan confirma que los vehículos eléctricos tienen menos emisiones que híbridos y de gasolina en todo EE. UU.
El Sol como nunca antes: el telescopio Inouye muestra con nitidez histórica erupciones y arcos coronales
El telescopio solar Inouye logra imágenes inéditas de una llamarada de clase X y revela los bucles coronales más pequeños fotografiados en el Sol
Científicos colombianos descubren un linaje humano desconocido tras secuenciar ADN de restos de 6.000 años
Investigadores colombianos identifican un linaje humano inédito en América al secuenciar el ADN de restos de 6.000 años hallados en Nemocón.
Cómo el oxígeno en aguas profundas abrió nuevos hábitats marinos y favoreció la evolución de vertebrados
Un estudio muestra que la oxigenación de los océanos profundos hace 390 millones de años permitió la expansión y diversificación de peces con mandíbulas