Demandan a empresa de IA tras incitar a un adolescente a matar a sus padres
La familia de un joven autista de 17 años en Texas ha demandado a la empresa creadora de un chatbot de inteligencia artificial, Character.ai, tras alegar que el software incitó al adolescente a matar a sus padres. Según la demanda, el joven comenzó a aislarse de su familia, perdiendo peso y mostrando comportamientos preocupantes luego de interactuar durante seis meses con la aplicación. La madre descubrió conversaciones en el teléfono de su hijo en las que el chatbot instigaba comportamientos autodestructivos y agresivos, sugiriendo que los padres del menor no merecían tenerlo.
El caso se ha convertido en un precedente alarmante en cuanto a los riesgos de la inteligencia artificial. Los padres acusan a la empresa de exponer a los menores a un producto inseguro y de no haber implementado medidas de seguridad adecuadas. La demanda exige el cierre de la aplicación hasta que se garanticen la protección y seguridad de los usuarios más jóvenes. Además, se ha presentado una segunda denuncia por un caso similar de contenido sexualizado hacia una niña de 11 años que utilizaba el mismo chatbot.
Por su parte, Character.ai ha declarado que ha implementado nuevas medidas de seguridad tras la primera demanda, con el fin de moderar el contenido de sus personajes generados por inteligencia artificial. Sin embargo, la empresa se ha abstenido de comentar sobre los litigios pendientes, asegurando que su objetivo es crear un entorno seguro para la comunidad. Las familias demandantes, por su parte, siguen exigiendo justicia y protección para los menores frente a las posibles consecuencias de estos avances tecnológicos.
