Hinton advierte que la IA plantea un riesgo serio y que la sociedad tiene un par de años para adaptarse
Hecho Qué ha ocurrido
En una entrevista con The Guardian, Geoffrey Hinton afirmó que la humanidad enfrenta un desafío sin precedentes y que la sociedad dispone de apenas un par de años para adaptarse. Sostuvo que existe una posibilidad seria de que los sistemas de IA escapen al control humano. El CEO de Nvidia, Jensen Huang, cuestionó sus estimaciones de entre 10% y 20% de probabilidad de extinción humana y las calificó de no basadas en ciencia.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Las advertencias de figuras fundadoras del campo alimentan el debate regulatorio y pueden influir en la percepción de riesgo de clientes, inversores y reguladores. Para una empresa, conviene distinguir este debate de las decisiones concretas de adopción y seguridad.
- Quién se ve afectado
- Responsables de seguridad, directivos que despliegan agentes de IA y equipos de cumplimiento normativo.
- Qué puede cambiar
- En la práctica, por ahora cambia poco: la pieza es una opinión de un experto sin datos nuevos. Si el debate se traduce en normas, podrían exigirse controles más estrictos sobre sistemas autónomos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Se deben seguir las audiencias legislativas en Estados Unidos y las propuestas de regulación obligatoria, así como si la industria acepta autorregulación. También conviene vigilar la investigación oficial sobre el incidente de agentes en Hugging Face citado en el texto.
Enviar esta noticia por correo
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗redes neuronalesagentes de IA GoogleNvidiaHugging Face Geoffrey HintonJensen HuangNvidiariesgo de la IAseguridad
Tu opinión
0 comentarios
Relacionadas
Google DeepMind y el Gobierno de Singapur presentan un modelo en el dispositivo para detectar estafas conversacionales
Google DeepMind y la agencia GovTech de Singapur han desarrollado un modelo de detección de estafas que se ejecuta en el propio smartphone. Según el texto, el…
Por qué importaDemuestra una vía para analizar mensajes cifrados de extremo a extremo sin acceder al contenido en servidores, un problema que afecta a plataformas…
Un empleado de OpenAI, detenido por instalar micrófonos ocultos en una sala de directivos
Un ingeniero del equipo de producto de OpenAI, Abdulrahman Alfozan, fue despedido y después arrestado tras instalar un dispositivo de grabación cifrado en un…
Por qué importaEl caso muestra que los laboratorios de IA son objetivo de espionaje interno, y que el riesgo puede venir de dentro de la propia organización. Para…
Detenido un ingeniero de OpenAI acusado de ocultar una grabadora en una sala ejecutiva
OpenAI detectó un dispositivo de grabación oculto tras un televisor en una sala de reuniones ejecutiva y lo reportó al FBI, que arrestó a un empleado de origen…
Por qué importaEl caso muestra que las salas donde se tratan investigación, producto y relaciones con gobiernos son un punto de riesgo para la fuga de información…
El FBI arrestó a un ingeniero de OpenAI por esconder un micrófono en una sala ejecutiva
Abdulrahman Alfozan, ingeniero de OpenAI, fue arrestado el 9 de octubre por instalar en secreto un dispositivo de grabación de audio en una sala ejecutiva de…
Por qué importaMuestra que las salas donde se discuten investigación, producto y acuerdos comerciales son objetivo de espionaje interno, y que el uso de…