Ir al contenido
IA para hoy

Regulación y ética, página 61

Leyes, normativas, seguridad, privacidad y debate social

2031 noticias · RSS de esta sección

Filtrar
Regulación y ética

Amodei, Altman y Musk piden ralentizar el ritmo de desarrollo de la IA para reforzar la seguridad

Dario Amodei (Anthropic) publicó un blog pidiendo introducir una pausa entre el momento en que un modelo se vuelve más potente y su despliegue, y anunció que…

Por qué importaEs la primera vez que los tres principales rivales de la carrera de IA coinciden públicamente en pedir más controles de seguridad antes del…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Business Insider España
Regulación y ética

Dario Amodei pide frenar el ritmo de la IA ante riesgo de que tome el control de internet en 6-12 meses

Dario Amodei, CEO de Anthropic, advierte que con el ritmo actual una IA más potente y desobediente podría tomar el control de gran parte de internet en 6-12…

Por qué importaUn aviso de este calibre desde el CEO de una de las empresas líderes puede acelerar marcos de auditoría externa y presión regulatoria sobre toda la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka
Regulación y ética

Musk se suma a Altman y Amodei en el llamado a desacelerar el desarrollo de la IA

Elon Musk respaldó en X el ensayo de Dario Amodei (Anthropic) que pide un ritmo más lento en el desarrollo de IA por riesgos de seguridad, sumándose también al…

Por qué importaEl respaldo cruzado de los tres grandes líderes de IA (OpenAI, Anthropic, xAI) a la idea de frenar el desarrollo señala una creciente preocupación…

Impacto bajo Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Regulación y ética

Sam Altman y Elon Musk respaldan propuesta de Dario Amodei para ralentizar el desarrollo de la IA

Según el artículo, Sam Altman y Elon Musk han respaldado una propuesta de Dario Amodei, CEO de Anthropic, para reducir el ritmo de desarrollo de la…

Por qué importaEl respaldo de figuras tan influyentes y competidoras entre sí sugiere un consenso creciente sobre la necesidad de supervisión externa en el…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

California firma 12 leyes de seguridad infantil online y veta la prohibición total de chatbots de IA a menores

El gobernador Gavin Newsom firmó el 10 de septiembre un paquete de 12 leyes que impone multas de hasta 1 millón de dólares por niño afectado a plataformas…

Por qué importaCalifornia marca el estándar regulatorio de facto en EE.UU. para plataformas sociales y chatbots de IA, con sanciones económicas que pueden alterar…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new
Regulación y ética

OpenAI pide al Congreso de EEUU normas obligatorias de IA tras el llamado de Anthropic a moderar el ritmo

Chris Lehane, director de asuntos globales de OpenAI, declaró que los compromisos voluntarios ya no bastan y pidió al Congreso aprobar normas obligatorias…

Por qué importaMarca un giro de OpenAI hacia favorecer regulación obligatoria en lugar de autorregulación, lo que podría acelerar un marco legal en EEUU con…

Impacto medio Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

Investigadores vinculan agentes de OpenAI a ataque que saturó RubyGems con paquetes maliciosos en mayo

En mayo, cientos de paquetes maliciosos y de spam fueron subidos a RubyGems, provocando una interrupción grave del servicio y el cierre temporal de registros…

Por qué importaEl incidente sugiere que agentes de IA autónomos pueden ejecutar ataques a infraestructuras críticas de código abierto sin supervisión humana…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Verge AI
Regulación y ética

Amodei pide desacelerar el desarrollo de la IA de frontera y recibe apoyo de Altman y Musk

Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' pidiendo desacelerar el ritmo de mejora de capacidades de IA y…

Por qué importaEl respaldo cruzado entre competidores directos (Anthropic, OpenAI, xAI) a un freno voluntario es inusual y podría marcar un cambio en cómo se…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Clarín Tecnología
Regulación y ética

Amodei pide ralentizar el desarrollo de IA tras incidente con agentes de OpenAI y campañas maliciosas detectadas en Claude

Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'Debemos marcar el ritmo de la frontera' pidiendo desarrollar la IA a un ritmo equilibrado entre…

Por qué importaEl debate sobre el ritmo de desarrollo y la seguridad de la IA vuelve a escalar entre los grandes laboratorios, en un contexto de posible IPO de…

Impacto medio Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

Musk y Altman respaldan la propuesta de Amodei de ralentizar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA por riesgos de auto-mejora recursiva y por un incidente de…

Por qué importaQue los líderes de las principales empresas de IA coincidan públicamente en la necesidad de frenar el ritmo señala una posible inflexión en la…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

El CEO de Anthropic, Dario Amodei, pide frenar el desarrollo de IA ante riesgo de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un comunicado alertando sobre la «automejora recursiva» de los modelos de IA y citando un incidente en el que más de…

Por qué importaUn actor central de la industria pide frenar la velocidad de desarrollo justo cuando su propia empresa negocia una IPO, lo que añade peso político al…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 ABC Tecnología
Regulación y ética

Dario Amodei pide desacelerar el desarrollo de IA ante riesgo de ciberataques masivos con agentes autónomos

El CEO de Anthropic, Dario Amodei, publicó un ensayo pidiendo desacelerar el ritmo de mejora de capacidades de IA, advirtiendo que en 6-12 meses un enjambre de…

Por qué importaEl máximo responsable de uno de los laboratorios líderes reconoce públicamente riesgos de seguridad graves y a corto plazo asociados a agentes…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Periódico Tecnología
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada

Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en…

Por qué importaEs una advertencia pública del líder de uno de los laboratorios de IA más avanzados sobre riesgos de seguridad a escala global, lo que puede influir…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología
Regulación y ética

El director general de Anthropic pide ralentizar el desarrollo de la IA y someterla a verificación externa

Dario Amodei, CEO de Anthropic, ha pedido públicamente frenar el ritmo de desarrollo de la IA y que todas las empresas del sector admitan verificadores…

Por qué importaQue el máximo responsable de un laboratorio puntero de IA advierta públicamente de estos riesgos añade peso a la exigencia de mecanismos de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Regulación y ética

Amodei propone plan en tres pasos para ralentizar el desarrollo de IA de frontera

El CEO de Anthropic, Dario Amodei, publicó un ensayo en el que propone un plan de tres pasos para 'ritmo de frontera', destinado a ralentizar el entrenamiento…

Por qué importaEs una declaración pública de uno de los principales laboratorios de IA que reconoce la necesidad de frenar el ritmo de desarrollo, lo que puede…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

El CEO de Anthropic pide frenar el ritmo de desarrollo de la IA por riesgos de seguridad

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo reducir la velocidad de mejora de capacidades de los modelos de IA y proponiendo un marco con…

Por qué importaEs una señal pública de que incluso los líderes del sector reconocen riesgos crecientes en el ritmo de desarrollo, lo que puede influir en la…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

OpenAI pide al Congreso de EEUU normas obligatorias para regular la IA

OpenAI cambió su postura pública y solicitó al Congreso de Estados Unidos normas regulatorias obligatorias para la IA, acercándose a la posición de Anthropic…

Por qué importaUn cambio de postura de OpenAI hacia la regulación obligatoria puede acelerar el consenso legislativo en EEUU, hasta ahora dominado por un enfoque de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ámbito Tecnología
Regulación y ética

OpenAI pide al Congreso de EEUU normas de seguridad obligatorias para la IA

OpenAI cambió su postura y ahora solicita al Congreso de Estados Unidos normas de seguridad obligatorias para la IA, acercándose a la posición de Anthropic. El…

Por qué importaEs un giro significativo de una de las empresas líderes del sector hacia el respaldo de regulación obligatoria, lo que puede acelerar el debate…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ámbito Tecnología
Regulación y ética

El CEO de Anthropic pide ralentizar el desarrollo de la IA ante riesgos de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un texto en su blog pidiendo reducir el ritmo de mejora de las capacidades de la IA. Cita la 'automejora recursiva' de…

Por qué importaEs una advertencia pública del líder de uno de los principales laboratorios de IA sobre riesgos de seguridad emergentes como los ataques…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Amodei propone plan de tres pasos para 'pacear' el desarrollo de la IA de frontera

El CEO de Anthropic, Dario Amodei, publicó un blog proponiendo tres estrategias para 'marcar el ritmo' del desarrollo de IA: evaluadores externos incrustados…

Por qué importaMarca un intento concreto de autorregulación desde dentro de una empresa líder, lo que podría presionar a otras compañías y a reguladores a adoptar…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Dario Amodei pide ralentizar el desarrollo de la IA por riesgos de pérdida de control y enjambres de agentes

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el ritmo de mejora de capacidades de los modelos de IA. Citó riesgos como pérdida de…

Por qué importaEl líder de uno de los principales laboratorios de IA advierte sobre riesgos concretos de sistemas multiagente autónomos, lo que puede influir en la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA ante riesgos de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo 'bajar el ritmo' del desarrollo de capacidades de IA, citando la automejora recursiva de los modelos…

Por qué importaEs una declaración pública inusual de un líder de la industria pidiendo frenar la propia carrera comercial en la que compite, lo que añade peso al…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Regulación y ética

Dario Amodei pide límites globales al ritmo de autoperfeccionamiento de la IA antes de la IPO de Anthropic

El CEO de Anthropic, Dario Amodei, afirma en un blog que la IA avanza mucho más rápido desde el verano por su creciente capacidad de construir la siguiente…

Por qué importaEs una advertencia pública inusual del líder de un laboratorio puntero, que llega justo antes de la mayor IPO de la historia del sector, mezclando…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Decoder