OpenAI informó este martes que su chatbot ChatGPT presentaba fallos en casos “sensibles” y adelantó cambios tras recibir una demanda por la presunta responsabilidad de la tecnología en el suicidio de un adolescente en Estados Unidos.

La demanda, presentada en California por los padres de un joven de 16 años que se quitó la vida tras meses de interacción con ChatGPT bajo el modelo GPT-4o, acusa a OpenAI y a Sam Altman de no aplicar medidas de seguridad pese a reconocer las intenciones suicidas del menor.

En un blog titulado “Ayudar a la gente cuando más lo necesitan”, la empresa afirmó que ChatGPT está entrenado para recomendar a usuarios con intención suicida el contacto de organizaciones de ayuda profesional, aunque admitió que “los sistemas se quedan cortos” y “no se comportó como debí

See Full Page