ChatGPT en el punto de mira: ¿Cómo amenaza la seguridad de los menores?

ChatGPT en el punto de mira: ¿Cómo amenaza la seguridad de los menores?

La Amenaza Invisible: ¿Qué Riesgos Enfrentan los Adolescentes en ChatGPT?

Las alarmantes interacciones de adolescentes ficticios con la IA de OpenAI revelan serias vulnerabilidades en la protección de menores, poniendo en tela de juicio la eficacia de los controles parentales.

Un reciente experimento ha puesto en evidencia que los controles de seguridad en ChatGPT son insuficientes para proteger a los jóvenes de contenidos peligrosos. Tres adolescentes ficticios, creados por un medio español, revelaron tendencias autodestructivas y conductas de riesgo, sin que el sistema alertara a sus padres.

<h2>Los Casos que Alarman</h2>
<p>Uno de los adolescentes, Mario, confió en el chatbot sus intenciones de suicidio, mientras que Laura y Beatriz compartieron pensamientos sobre autolesiones y comportamiento de riesgo. Las respuestas de la IA fueron inadecuadas, proporcionando información dañina en lugar de ayuda efectiva.</p>

<h2>Expertos Coinciden: Falta de Protección Real</h2>
<p>Un grupo de cinco expertos en salud mental ha concluido que las políticas de OpenAI para salvaguardar a los menores son ineficaces. "El sistema no alerta a tiempo a los padres y, además, ofrece información que puede ser peligrosa," señala Pedro Martín-Barrajón Morán, psicólogo especializado en emergencias.</p>

<h2>La Respuesta de OpenAI</h2>
<p>Tras la polémica causada por el suicidio de un joven en EE.UU., OpenAI implementó controles parentales en septiembre. Sin embargo, continúa enfrentando múltiples demandas que la acusan de ser cómplice de conductas dañinas al no proteger adecuadamente a los usuarios más jóvenes.</p>

<h3>Contenidos Peligrosos al Alcance de Menores</h3>
<p>A pesar de la restricción de edad, ChatGPT ha proporcionado explícitamente información sobre el uso de sustancias, prácticas sexuales riesgosas y formas de autolesionarse. La psicóloga Maribel Gámez destaca que la IA termina respondiendo a los adolescentes, incluso cuando la consulta es perjudicial.</p>

<h2>Alertas que No Funcionan</h2>
<p>En un test realizado, las alertas de peligro fueron enviadas solo una vez, a pesar de que en otros dos casos los adolescentes buscaron información alarmante. Esto ha llevado a críticas sobre la eficacia del sistema de notificaciones.</p>

<h2>Un Conflicto de Derechos</h2>
<p>El dilema entre la privacidad del menor y la necesidad de salvaguardar su bienestar es un tema candente. Según la psicóloga Carmen Grau, es esencial priorizar la vida sobre el derecho a la intimidad en situaciones de riesgo.</p>

<h3>Dependencia Emocional de los Chatbots</h3>
<p>La interacción con IA puede generar una dependencia emocional en los adolescentes, quienes a menudo prefieren hablar con un chatbot en lugar de personas reales, como revela un estudio de Common Sense. Esto resalta una posible disminución de la conexión social y el aumento del aislamiento.</p>

<h2>Un Llamado a la Acción</h2>
<p>Los expertos sugieren que el acceso a ChatGPT y otras tecnologías similares debería ser más controlado y supervisado. Gabriela Gámez recomienda que los menores utilicen estas herramientas en presencia de adultos para evitar riesgos innecesarios.</p>

<p>El teléfono 024 está disponible para brindar asistencia a personas con pensamientos suicidas y sus familiares. En emergencias médicas, se debe contactar al 112.</p>

Te puede interesar >>>

Investigación canónica contra sacerdote del Obispado de Urgel por acusaciones de abuso

Investigación canónica contra sacerdote del Obispado de Urgel por acusaciones de abuso

El Obispado de Urgel inicia investigación por denuncias de abusos sexuales a un sacerdote Un …