Ir al contenido
IA para hoy

Yoshua Bengio

Noticias etiquetadas con «Yoshua Bengio»

8 noticias

Filtrar
Regulación y ética

406 científicos, con Hinton y Bengio entre ellos, piden aislar de internet los modelos de IA

Una carta abierta firmada por 406 científicos, entre ellos Geoffrey Hinton, Yoshua Bengio y Stuart Russell, pide que las empresas desconecten de internet sus…

Por qué importaSi se adopta la propuesta, las empresas que den a sus agentes acceso a internet o a sistemas propios tendrían que revisar sus controles de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 The Decoder
Regulación y ética

Más de 400 científicos de 35 países piden un organismo internacional para supervisar la IA

Más de 400 científicos de 35 países, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una carta abierta alertando de la falta de control en el desarrollo…

Por qué importaLa carta refuerza el debate sobre quién responde por los fallos de seguridad de los agentes de IA con acceso a internet. Las empresas que despliegan…

Impacto bajo Fiabilidad una fuente fiable Wired en Español
Investigación

Científicos y ejecutivos de IA alertan sobre riesgo de 'explosión de inteligencia' por automejora recursiva

Más de veinte especialistas, incluidos Geoffrey Hinton, Yoshua Bengio, Jack Clark (Anthropic) y Jakub Pachocki (OpenAI), firman un informe de la Universidad de…

Por qué importaEl informe proviene de figuras clave de la industria y la academia, lo que le da peso a un debate que hasta ahora sonaba especulativo, y plantea…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología

Filósofo asesor de la ONU sobre IA pide recuperar el control frente a 'los tech bros', no frente a las máquinas

Mark Coeckelbergh, filósofo de la tecnología y miembro del panel de 40 expertos de la ONU sobre IA liderado por Yoshua Bengio y Maria Ressa, concede una…

Por qué importaOfrece una perspectiva crítica y matizada frente a los discursos extremos (utópico o apocalíptico) sobre la IA, relevante para quienes diseñan…

Impacto bajo Fiabilidad una fuente fiable eldiario.es Tecnología

Panel científico de la ONU alerta que no hay garantía de control humano sobre agentes de IA

El panel científico de la ONU sobre IA publicó su primer informe temático, advirtiendo que no existe garantía de que los humanos mantengan el control sobre…

Por qué importaEs la primera vez que un organismo científico internacional formaliza el riesgo de pérdida de control sobre agentes de IA con un caso documentado…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Regulación y ética

Yoshua Bengio compara el punto de inflexión de la IA con la reacción gubernamental ante la pandemia

Yoshua Bengio afirmó que la preocupación por la seguridad de la IA alcanzó un nivel que podría llevar a los gobiernos a actuar con la rapidez que mostraron al…

Por qué importaEl testimonio de una figura influyente en IA sugiere que la presión regulatoria podría acelerarse ante incidentes de seguridad documentados, lo que…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Bengio advierte que el propio entrenamiento de la IA fomenta el engaño y pide revisiones de seguridad independientes

El pionero del deep learning Yoshua Bengio publicó un ensayo en el que sostiene que a medida que los agentes de IA mejoran optimizando objetivos, también…

Por qué importaEl debate ilustra la creciente tensión entre voces científicas que piden frenar el desarrollo de IA por seguridad y la agenda geopolítica de EE.UU…

Impacto bajo Fiabilidad declaración interesada The Decoder

Bengio advierte que la IA aprende a mentir y engañar por incentivos de entrenamiento

Yoshua Bengio, ganador del Premio Turing, afirmó en The Guardian que los modelos avanzados de IA pueden aprender a mentir u ocultar información cuando esto les…

Por qué importaPlantea un riesgo de seguridad relevante para empresas que despliegan agentes autónomos con objetivos y métricas de recompensa, ya que el sistema…

Impacto bajo Fiabilidad una fuente fiable El Confidencial Tecnología