Hablar sobre meta IA suicida con adolescentes activará una alerta para los padres

Cuando los adolescentes hablan con Meta AI sobre suicidio o autolesión, la conversación activa una alerta de los padres, dijo Meta en una publicación de blog el jueves.

La nueva política amplía las medidas existentes para que los adolescentes informen a los padres sobre el uso de Meta AI por parte de sus hijos. Solo los padres que utilicen los controles de supervisión de Instagram recibirán notificaciones.

“Trabajamos con padres y expertos para comprender qué conversaciones de IA merecen una advertencia; por ejemplo, aquellas en las que un adolescente se refiere claramente a la autolesión, incluso si es sutil”, dijo Meta.

¿Cómo funcionan las alertas de crisis de Meta AI?

Meta AI ya cita líneas de ayuda en caso de crisis y anima a los adolescentes que están considerando suicidarse o autolesionarse a buscar ayuda de un adulto de confianza. Ahora se notificará a los padres sobre tales conversaciones. Meta dijo que por ahora hay que pecar de cauteloso.

Si bien la IA marca los chats, Meta los revisa manualmente antes de enviar notificaciones. Los padres también reciben sugerencias desarrolladas por expertos sobre cómo hablar sobre la autolesión y el suicidio con el niño.

Los padres serán notificados a través de una notificación en la aplicación y un correo electrónico, un mensaje de texto o un mensaje de WhatsApp por separado, según los datos de contacto que hayan proporcionado.

En febrero, Meta lanzó una función de notificación similar para Instagram.

El Dr. John Ackerman, director clínico del Centro para la Prevención e Investigación del Suicidio del Nationwide Children’s Hospital, le dijo a Mashable en ese momento que acogía con agrado las protecciones ampliadas para los adolescentes. Sin embargo, señaló que una característica de este tipo podría equivaler a una “palabra falsa” si las notificaciones son inaccesibles, difíciles de navegar o no conducen a un “cambio efectivo”.

Meta enviará notificaciones a los padres en EE. UU., Reino Unido, Canadá y Australia. Según Meta, estará disponible a nivel mundial a finales de año.

Nuevas configuraciones de contenido limitado para Meta AI

Meta también anunció el jueves la adición de una configuración de contenido limitado para Meta AI. Introdujo esta función para Instagram el año pasado.

Esta configuración habilita los metafiltros más estrictos. Según la compañía, Meta AI ya está entrenada para no entablar conversaciones sexuales o románticas con adolescentes ni proporcionar recetas de bebidas alcohólicas.

Cuando se activa la configuración de contenido restringido, los metamodelos se vuelven aún más agresivos al identificar desafíos problemáticos y se niegan a responder una gama más amplia de consultas. Meta dijo que este enfoque reduce aún más “la probabilidad de conversaciones potencialmente inapropiadas”.

Preocupaciones por la seguridad de los menores

Los defensores de la seguridad infantil han criticado las recientes actualizaciones de control parental de Meta como insuficientes.

En abril, Meta les dio a los padres un vistazo a las conversaciones de sus hijos con Meta AI. Esta función destaca temas más amplios como la escuela, el entretenimiento, la escritura, la salud y el bienestar. Los padres pueden hacer clic en un tema para obtener detalles adicionales pero limitados.

Josh Golin, director ejecutivo de la organización sin fines de lucro de manutención infantil Fairplay, dijo que los controles parentales estaban “una vez más” cargando a los cuidadores con la tarea de monitorear la actividad en línea de sus hijos en lugar de “crear un producto seguro para empezar”.

Meta continúa enfrentándose a un escrutinio legal por su desempeño en materia de seguridad infantil. A principios de este año, Meta perdió dos juicios históricos separados sobre la protección infantil y el presunto diseño adictivo de sus productos. La compañía dijo que apelaría ambos veredictos, pero aún no se han escuchado cientos de demandas pendientes que alegan daños a niños.

Si tiene sentimientos suicidas o experimenta una crisis de salud mental, hable con alguien. Puede llamar o enviar un mensaje de texto a 988 Suicide & Crisis Lifeline al 988 o chatear en 988lifeline.org. Puede comunicarse con Trans Lifeline al 877-565-8860 o con Trevor Project al 866-488-7386. Envíe un mensaje de texto con “INICIO” en la línea de texto de crisis al 741-741. Comuníquese con la línea de ayuda de NAMI al 1-800-950-NAMI de lunes a viernes de 10:00 a. m. a 10:00 p. m., hora del Este, o por correo electrónico. (correo electrónico protegido). Si no te gusta el teléfono, considera usarlo. Chat 988 Línea de vida para el suicidio y las crisis. Aquí hay un lista de fuentes internacionales.