OpenAI ha implementado una nueva funcionalidad de seguridad que permite designar un contacto de confianza en ChatGPT, ya sea un amigo, un familiar o un cuidador, quien recibirá una alerta en caso de que el asistente detecte que el usuario podría estar en riesgo o considerando hacerse daño.
La empresa ha aclarado que algunas personas utilizan ChatGPT no solo para aprender, solucionar problemas y explorar temas, sino también para reflexionar sobre asuntos personales, especialmente en momentos complicados o cuando buscan apoyo.
En estas circunstancias, el asistente está diseñado para responder con empatía y motivar a los usuarios a buscar ayuda profesional cuando sea necesario. Ahora, también tiene la capacidad de notificar a personas de confianza del usuario si identifica situaciones que puedan poner en peligro su seguridad.
Para ello, OpenAI ha añadido la función de Contacto de confianza en ChatGPT, mediante la cual los usuarios adultos pueden seleccionar a alguien cercano, como un amigo, familiar o cuidador, quien será informado si el asistente detecta indicios de autolesiones o comportamientos que representen un «riesgo grave para la seguridad» del usuario.
Así se explica en un comunicado publicado en su blog, donde se detalla que el contacto de confianza está pensado para “brindar un nivel adicional de apoyo”, complementando las líneas de ayuda ya integradas en ChatGPT.
Esta función opera mediante sistemas automatizados de monitoreo que identifican si el usuario habla sobre autolesionarse o poner en peligro su bienestar. En tales casos, el equipo especializado de OpenAI evalúa la conversación y, si determina que existe un riesgo serio para la seguridad, envía una alerta al contacto de confianza.
En otras palabras, cuando ChatGPT detecte que el usuario atraviesa una crisis, se enviará una notificación vía correo electrónico, mensaje de texto o alerta dentro de la aplicación si el contacto de confianza está registrado, para que pueda intervenir y proporcionar apoyo adicional, facilitando la conexión con alguien en quien el usuario ya confía.
Esta herramienta se basa en la funcionalidad preexistente de notificaciones de seguridad para el control parental en menores. No obstante, no reemplaza la atención profesional ni los servicios de emergencia. “ChatGPT continuará promoviendo que los usuarios contacten líneas de ayuda para crisis o servicios de emergencia cuando sea pertinente”, afirmó la empresa tecnológica.
El contacto de confianza debe ser mayor de edad y podrá seleccionarse desde la configuración de ChatGPT. Posteriormente, la persona designada recibirá una invitación explicándole su rol, la cual deberá aceptar en un plazo máximo de una semana. Si esta invitación es rechazada, el usuario podrá elegir a otro contacto.