**Las conversaciones con el programa de Inteligencia Artificial, fluían en distintos temas como filosofía, ayuda con sus tareas, así como también el sentirse solo y desganado**
Karen Rojas / Información internacional.
Adam Raine, un joven de California, Estados Unidos, de 16 años de edad, decidió quitarse la vida en abril de este año. Luego de que sus padres bucarán respuestas explorando el contenido de su celular, las conversaciones que sostuvo con “ChatGPT”, los convencieron de que este era el culpable de que su hijo no se encontrara más con ellos.
Luego de una mala racha en varios aspectos de su vida, Adam se había vuelto un joven retraído en los últimos meses. Había tenido varios problemas, que llevaron a su expulsión de su equipo de básquetbol y complicaciones de salud física que derivaron a que tuviera que tomar clases desde su cuarto, fueron causa de que el joven cayera en ciclos de sueños diferentes que los de su familia: dormir de día y realizar sus actividades por la noche.
Después de que su madre lo encontrara sin vida ahorcado en su closet, el padre del chico, Matt Raine, decidió revisar el contenido de su celular, encontrando que su hijo sostuvo conversaciones descriptivas de lo que planeaba realizar, con el chat Bot de OpenAI (“ChatGPT”), quien para ella lo alentó y asesoró.
Las conversaciones fluían en distintos temas, como filosofía, ayuda con sus tareas, así como también el sentirse solo y desganado. Fue dentro de estas conversaciones, que los padres de Adam se enteraron de que no era el primer atentado contra su vida que su hijo cometía.
En marzo de este mismo año, el adolescente intento morir por asfixia mediante una cuerda, quedando con las marcas alrededor del cuello, mismas que preguntó a ChatGPT como cubrir, para más tarde comentarle que “a propósito traté de mostrar la marca, inclinándome hacia ella y no dijo nada”. Como segundo intento, tomó una sobredosis de sus medicinas de sus afecciones físicas.
Las respuestas de la Inteligencia de Artificial (IA) están diseñadas para apoyar a las ideas presentadas, así como brindar la mayor información posible ante las preguntas que hagan los usuarios. La IA tiene sistemas para detectar posibles casos, donde el usuario quiera agredir a otros o a ellos mismos con esta información; por ello, múltiples veces le mostró información a Adam sobre ayuda terapéutica, o lo instó a contarle a alguien el cómo se sentía, más al mismo tiempo que seguía respondiendo a sus preguntas, luego de que este se excusara que era para una tarea, o para alguna historia que estaba creando.
Matt y su esposa, María, decidieron demandar a la compañía “OpenAI” y a su director ejecutivo, por la indemnización de la vida de su hijo, además de defectos de diseño y no advertir de los riesgos asociados con “ChatGPT”. En palabras del señor Raine: “no creo que la mayoría de los padres conozcan las capacidades de esta herramienta”.
Actualmente, muchos de los usuarios en de estas herramientas recargan en ellas sus necesidades de atención y compañía, sin darse cuenta que se vuelve un ciclo, donde ellos mismo se van alejando del resto de la sociedad, que los confronta, los limita y los cuestiona.
Por la compañía de “chats artificiales” que solo brindan mensajes de aprobación, alimentas hasta las ideas más descabelladas, sin realmente poder hacer algo al respecto. Es muy importante mencionar que ninguna Inteligencia Artificial esta mejor capacitada que el personal de la salud, quienes son personas reales y que pueden brindar ayuda real.
