Investigador de seguridad de Anthropic estima más de 10% de probabilidad de que la IA extinga a la humanidad
Hecho Qué ha ocurrido
Un investigador senior de seguridad de Anthropic afirmó que existe más de un 10% de probabilidad de que la IA 'pueda matar a todos los humanos' antes de que termine la década. La declaración llega horas después de que Jacob Coxon, un investigador que entrenó sistemas tanto en Anthropic como en OpenAI, renunciara públicamente en X denunciando una carrera descontrolada hacia sistemas superinteligentes que las empresas no pueden controlar.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El debate interno en un laboratorio líder en seguridad de IA como Anthropic añade credibilidad a las preocupaciones sobre riesgos existenciales, más allá de discursos externos de activistas o reguladores.
- Quién se ve afectado
- Laboratorios de IA, reguladores, inversores y empresas que dependen de modelos de frontera como Claude o GPT.
- Qué puede cambiar
- Puede intensificarse la presión pública y regulatoria sobre Anthropic, OpenAI y otros laboratorios para ralentizar el desarrollo o reforzar medidas de seguridad y transparencia.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si más empleados de laboratorios de IA renuncian por motivos similares, si Anthropic responde públicamente a estas declaraciones internas, y si reguladores citan este tipo de testimonios en futuras normativas.
Enviar por correo
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes AnthropicOpenAIriesgo existencialseguridad de IAsuperinteligencia
Forma parte de la historia Investigador de Anthropic advierte sobre riesgo existencial tras renuncia de colega (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial por IA en una década
Evan Hubinger, responsable de alineación en Anthropic, afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima…
Por qué importaQue responsables de seguridad de un laboratorio líder admitan públicamente falta de un plan de alineamiento robusto añade presión sobre la gobernanza…
China impone la ley más estricta del mundo sobre chatbots de IA
El 15 de julio entraron en vigor nuevas normas de la Administración del Ciberespacio de China que regulan los servicios de 'IA interactiva antropomórfica'…
Por qué importaMarca el primer marco regulatorio integral sobre IA emocional/de compañía a escala nacional, mucho más estricto que las normas fragmentarias de…
Microsoft parchea un récord de 972 vulnerabilidades ante temor a ataques con IA
Microsoft lanzó en septiembre un parche que corrige aproximadamente 972 vulnerabilidades, 112 de ellas críticas, superando el récord anterior de 570 fijado dos…
Por qué importaEl aumento masivo de parches refleja que la industria anticipa una escalada de ataques automatizados por IA capaces de explotar vulnerabilidades más…
Hackers roban tokens de Claude a suscriptores mediante robo de sesiones
Usuarios de Claude, incluido el consultor Grant De Swardt, reportaron consumo anómalo de tokens sin estar usando el servicio. Anthropic confirmó a algunos…
Por qué importaExpone una vulnerabilidad crítica en la gestión de sesiones y facturación de servicios de IA por suscripción, especialmente para profesionales y…