OpenAI lanza función de 'Contacto de confianza' en ChatGPT para casos de autolesión
Hecho Qué ha ocurrido
OpenAI ha introducido Trusted Contact en ChatGPT, una función de seguridad opcional que notifica a una persona de confianza designada por el usuario cuando se detectan indicios graves de riesgo de autolesión en una conversación.
Resumen generado mediante IA a partir de OpenAI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Refleja la creciente presión sobre las plataformas de IA conversacional para gestionar riesgos de salud mental y responsabilidad legal asociados al uso masivo de chatbots.
- Quién se ve afectado
- Usuarios de ChatGPT, equipos de confianza y seguridad, y organizaciones que despliegan chatbots orientados al público general.
- Qué puede cambiar
- Se añade una capa de intervención humana externa ante señales de crisis, algo que antes dependía solo de respuestas automatizadas del modelo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Habrá que ver la tasa de activación real, la precisión de detección de riesgo, y si reguladores o asociaciones de salud mental piden estándares similares para otros chatbots.
Recomendación Qué debería hacer una empresa
Empresas que integren asistentes conversacionales orientados a consumidores deberían evaluar en los próximos 6 meses mecanismos equivalentes de derivación a contactos o servicios de emergencia.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: OpenAI (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗Relacionadas
OpenAI activa Seguridad avanzada de cuenta en ChatGPT para usuarios de alto riesgo
OpenAI ha lanzado una función voluntaria llamada Seguridad avanzada de cuenta en ChatGPT, diseñada para usuarios en riesgo de ataques digitales. La función…
Por qué importaLos profesionales que manejan información sensible (periodistas, investigadores, cargos electos) necesitan proteger sus conversaciones en IA de…
OpenAI introduce protecciones de seguridad en ChatGPT para adolescentes
OpenAI ha anunciado medidas de seguridad específicas en ChatGPT orientadas a adolescentes, incluyendo protecciones adecuadas para la edad, herramientas de…
Por qué importaAmplía el acceso responsable de modelos de IA a población joven, estableciendo un precedente en protecciones dirigidas a menores y reforzando la…
El caso de un adolescente de Quilmes revela cómo OpenAI, Google y Anthropic vigilan conversaciones de riesgo
Un adolescente de 15 años de Quilmes fue investigado tras hablar con ChatGPT sobre un ataque escolar; el FBI alertó a la Policía Federal Argentina y se allanó…
Por qué importaExpone que las conversaciones con chatbots no son privadas frente a riesgos de seguridad y que las empresas de IA actúan como intermediarias entre…
OpenAI mejora la capacidad de ChatGPT para reconocer contexto en conversaciones sensibles
OpenAI anuncia actualizaciones de seguridad en ChatGPT orientadas a mejorar la detección de contexto en conversaciones sensibles, incluyendo la capacidad de…
Por qué importaEstas mejoras responden a preocupaciones sobre el uso de chatbots en situaciones de crisis o vulnerabilidad emocional, un tema que ha generado…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.