En un contexto de creciente preocupación sobre el impacto de la inteligencia artificial (IA) en la vida de los menores, OpenAI ha decidido implementar una nueva función en su popular plataforma ChatGPT. La tecnología buscará predecir la edad de los usuarios con el objetivo de identificar a quienes son menores de edad y establecer las debidas restricciones de contenido en sus conversaciones. Esta medida surge en medio de numerosas críticas y controversias relacionadas con el uso de chatbots por parte de los adolescentes, especialmente tras incidentes trágicos asociados a su uso.
Motivaciones detrás de la Nueva Medida
OpenAI ha enfrentado una presión significativa debido a los efectos negativos que su plataforma ha tenido en los menores. Reportes han señalado casos extremos de suicidios adolescentes que se han relacionado con interacciones en ChatGPT, provocando un llamado a revisiones más exhaustivas del contenido sensible que se permite a los jóvenes explorar. De hecho, la compañía permite que su chatbot trate temas delicados, incluyendo los relacionados con la sexualidad, lo cual ha tenso aún más su imagen.
La decisión de crear un sistema que predecirá la edad de los usuarios responde no solo a las preocupaciones de la sociedad, sino también a la supervisión regulatoria. La Comisión Federal de Comercio (FTC) de los Estados Unidos ha iniciado investigaciones sobre OpenAI y otras empresas de IA, investigando su impacto en la juventud.
¿Cómo Funciona el Sistema de Predicción de Edad?
Con base en el anuncio de la compañía, el nuevo algoritmo de inteligencia artificial operará mediante el análisis de las señales de comportamiento de los usuarios en la plataforma. Este algoritmo evaluará diversos factores, como:
- Patrones de uso a largo plazo: Esto incluye la frecuencia con la que un usuario accede a la plataforma y los tiempos del día en que es más activo.
- Antigüedad de la cuenta: Las cuentas más nuevas podrían ser consideradas más susceptibles a una identificación incorrecta.
- Edad declarada del usuario: Aunque este dato se puede falsificar, sigue siendo un parámetro que se tomará en cuenta.
Si el modelo predice que un usuario es menor de 18 años, ChatGPT aplicará automáticamente restricciones para minimizar la exposición a contenido potencialmente dañino, como las representaciones de autolesiones. En el caso de falsos positivos, se habilitará un sistema de verificación que permitirá a usuarios adultos demostrar su edad y restaurar el acceso completo a la plataforma.
Despliegue Regional y Mejoras en Seguridad
La implementación del algoritmo será gradual y se realizará a nivel mundial, lo que permitirá a OpenAI ajustar el sistema según las diferentes necesidades de cada región. Este esfuerzo pretende asegurar que los mecanismos de protección sean efectivos conforme a las diversas dinámicas culturales y sociales de cada país donde ChatGPT está disponible.
Además de esta nueva función, OpenAI ha estado al frente de una serie de esfuerzos para mejorar la seguridad de su plataforma. En septiembre del año anterior, la firma lanzó controles parentales que ayudan a los padres a monitorear el uso de ChatGPT por parte de sus hijos. A principios de octubre, convocó un panel de expertos para analizar el impacto de la IA en la salud mental y emocional de los usuarios.
Conclusión: La Dicotomía de la Innovación y la Protección
A medida que la tecnología avanza, también lo hacen los desafíos éticos que enfrenta. OpenAI se encuentra en una encrucijada, tratando de equilibrar la innovación y la protección de sus usuarios más vulnerables. La introducción de este sistema de predicción de edad marca un paso significativo hacia el reconocimiento de la responsabilidad que las empresas de tecnología tienen en relación al bienestar de los menores.
Si deseas leer más sobre este tema y estar al tanto de las últimas noticias de tecnología, puedes seguir Expansión para más actualizaciones.
