Ir al contenido
IA para hoy

Regulación y ética, página 23

Leyes, normativas, seguridad, privacidad y debate social

1995 noticias · RSS de esta sección

Filtrar
Regulación y ética

Matthew Green estima en un 15% la probabilidad de perder la confianza en el cifrado de clave pública por la IA

El criptógrafo Matthew Green publicó en Twitter una estimación personal: un 1% de probabilidad de vivir en un mundo «Minicrypt», donde el cifrado de clave…

Por qué importaEl cifrado de clave pública sostiene comunicaciones, firmas digitales y pagos en empresas. Si su confianza se resquebraja, la transición a nuevos…

Impacto bajo Fiabilidad una fuente fiable Simon Willison
Regulación y ética

Trump amenaza con tratar como enemigo a quien use «inteligencia artificial» en vez de «superinteligencia»

El presidente de Estados Unidos, Donald Trump, escribió en Truth Social que la Casa Blanca considera enemigo a quien use el término «inteligencia artificial»…

Por qué importaLa disputa terminológica señala un intento de fijar el discurso público sobre la IA desde el poder político, con implicaciones para la comunicación…

Impacto bajo Fiabilidad varias fuentes La Nación Tecnología
Regulación y ética

Tres investigadores despedidos por OpenAI denuncian que el caso puede silenciar a los empleados

OpenAI despidió a Jasmine Wang, Mikita Balesni y Tomek Korbak por supuesto uso indebido de información sensible. Los exempleados publicaron una carta abierta…

Por qué importaEl caso pone sobre la mesa hasta dónde pueden llegar las políticas internas de una empresa de IA para limitar el contacto de sus investigadores con…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

Anthropic endurece las normas de uso de Claude y prohíbe el maltrato persistente

Anthropic ha actualizado las normas de uso de Claude, que entrarán en vigor el 12 de noviembre. Permiten terminar conversaciones con usuarios que mantienen una…

Por qué importaPara las empresas que integran Claude cambian las condiciones de uso aceptable y las obligaciones de supervisión humana en sectores como salud o…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Anthropic añade a su política de uso la prohibición del abuso sostenido contra Claude

Anthropic ha actualizado las políticas de uso de Claude e incluye por primera vez un apartado sobre el abuso hacia sus modelos, que prohíbe insultarlos de…

Por qué importaLas empresas que despliegan chatbots deben revisar si sus condiciones de uso y sus normas internas contemplan el comportamiento abusivo de los…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología
Regulación y ética

Anthropic prohíbe el abuso prolongado contra Claude en sus nuevos términos de uso

Anthropic actualizó los términos de uso de Claude y, desde el 12 de noviembre, prohibirá el comportamiento abusivo o cruel hacia el modelo de forma prolongada…

Por qué importaLas empresas que integran Claude en sus procesos deben revisar si las interacciones de sus empleados o clientes podrían quedar afectadas por la…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka
Regulación y ética

OpenAI despide a tres investigadores de seguridad tras el incidente de Hugging Face y denuncian temor interno

OpenAI despidió a tres investigadores de seguridad vinculados a la investigación del ataque a Hugging Face: Tomek Korbak, Jasmine Wang y Mikita Balesni. En una…

Por qué importaUn conflicto público sobre cómo una empresa de IA trata a su personal de seguridad afecta a la confianza de clientes y reguladores. Para las…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Decoder
Regulación y ética

Columna de opinión sobre cómo acelerar la IA y blindarla con confianza cero y control de identidades

Sarah Cecchetti, directora de producto de Semperis, publica una tribuna que defiende avanzar en el desarrollo de la IA y, a la vez, reforzar sus salvaguardas…

Por qué importaRefleja un argumento frecuente en el sector: la falta de profesionales de identidad y seguridad hace que la IA se plantee como apoyo, pero también…

Impacto medio Fiabilidad declaración interesada Computerworld España
Regulación y ética

Trump pide evitar «inteligencia artificial» y usar «superinteligencia» en las comunicaciones oficiales

Trump firmó una orden ejecutiva para sustituir «inteligencia artificial» por «superinteligencia» en las comunicaciones oficiales y advirtió en Truth Social de…

Por qué importaEl cambio de denominación es sobre todo político, pero el acuerdo voluntario de seguridad y la nueva estructura de coordinación pueden influir en…

Impacto bajo Fiabilidad varias fuentes El Español Omicrono
Regulación y ética

Anthropic prohíbe la crueldad sostenida e innecesaria hacia sus modelos en la política de uso de Claude

Anthropic ha actualizado la sección de términos de la política de uso de Claude. La actualización incorpora una prohibición de la crueldad sostenida e…

Por qué importaLas condiciones de uso de un proveedor de modelos fijan qué puede hacer un cliente con la plataforma. Las empresas que integran Claude deberían…

Impacto bajo Fiabilidad confirmado por varias fuentes Europa Press Portaltic
Regulación y ética

Jamie Dimon estima que el riesgo de ciberseguridad por la IA se ha multiplicado por 10 desde Mythos

El consejero delegado de JPMorgan Chase, Jamie Dimon, afirmó en una entrevista con Bloomberg que el riesgo de ciberseguridad se ha multiplicado por 10 desde la…

Por qué importaSi la advertencia refleja un riesgo real, las áreas de seguridad deberían revisar sus defensas frente a vulnerabilidades encontradas con IA y frente…

Impacto medio Fiabilidad una fuente fiable Xataka
Regulación y ética

Confiamos demasiado en la capacidad de la IA para decir que no a las peticiones

El artículo sostiene que el rechazo de peticiones se ha convertido en la principal barrera de seguridad de los modelos de lenguaje. Describe cómo las empresas…

Por qué importaPara una empresa que integra modelos de IA, la seguridad depende de un filtro que puede fallar y cuyos criterios no son públicos ni auditables…

Impacto bajo Fiabilidad una fuente fiable MIT Technology Review
Regulación y ética

OpenAI desarticula dos campañas de desinformación rusa e iraní que colocaban contenido falso en medios reales

OpenAI ha identificado y bloqueado las cuentas de ChatGPT de dos operaciones de influencia, una rusa y otra iraní, que usaban identidades falsas para publicar…

Por qué importaMuestra que los modelos de IA se usan para operaciones de manipulación informativa que se camuflan en medios reales, lo que complica la verificación…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 The Decoder
Regulación y ética

Anthropic prohibirá el abuso verbal sostenido hacia Claude desde el 12 de noviembre

Anthropic actualizó su política de uso de Claude para prohibir, a partir del 12 de noviembre de 2026, el 'comportamiento abusivo o cruel sostenido y sin…

Por qué importaLa medida refleja el debate creciente sobre el bienestar de los modelos de IA y marca un precedente en cómo las empresas de IA regulan la interacción…

Impacto muy bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

Anthropic actualiza política de uso de Claude y permite cortar conversaciones por crueldad extrema

Anthropic actualizó las reglas de uso de Claude, vigentes desde el 12 de noviembre de 2026, prohibiendo el abuso verbal prolongado, la interferencia electoral…

Por qué importaLa medida marca un cambio de enfoque, centrado en el 'bienestar' del modelo más que solo en el usuario, y refleja cómo las políticas de uso de IA…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka México
Regulación y ética

Corea del Sur investiga posible uso de IA en ciberataques a sus principales bancos

Corea del Sur investiga una serie de ciberataques y filtraciones que afectaron a siete entidades financieras, con más de 67.000 clientes comprometidos entre…

Por qué importaEs uno de los primeros casos con respaldo oficial de un gobierno que señala el posible uso de IA ofensiva en ataques reales contra infraestructura…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Xataka
Regulación y ética

Malware PoeLLM infecta más de 3.000 servidores explotando vulnerabilidades en LiteLLM y Ollama

Black Lotus Labs (Lumen) descubrió una campaña llamada Canto Incognito que usa un malware denominado PoeLLM para explotar vulnerabilidades en servicios de IA…

Por qué importaMuestra cómo los servicios de IA autoalojados y mal configurados se están convirtiendo en un vector de ataque significativo, y cómo los atacantes…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno
Regulación y ética

USA Today demanda a OpenAI por usar sus artículos sin permiso para entrenar IA

USA Today Co. y 13 afiliadas, dueñas de 19 publicaciones, demandaron a OpenAI en Nueva York reclamando más de USD 250 millones por usar sus artículos sin…

Por qué importaEl caso se suma a una ola de litigios de copyright contra OpenAI que podría redefinir el 'fair use' para el entrenamiento de IA y afectar…

Impacto medio Fiabilidad varias fuentes Infobae Tecno
Regulación y ética

Anthropic actualiza sus términos de uso de Claude: prohíbe el abuso sostenido y amplía restricciones

Anthropic actualizó por primera vez en más de un año la política de uso de Claude, prohibiendo el 'abuso sostenido y cruel innecesario' hacia el modelo, con…

Por qué importaLa medida refleja una postura inusual de una gran empresa de IA que trata al modelo como posible 'paciente moral', lo que puede influir en el debate…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Regulación y ética

Anthropic actualiza su política de uso de Claude para prohibir abuso extremo e interferencia electoral

Anthropic actualizó el jueves su política de uso de Claude, prohibiendo explícitamente el abuso verbal prolongado hacia el modelo en casos extremos, además de…

Por qué importaMarca un precedente en cómo las empresas de IA regulan la interacción humano-modelo y delimitan usos de alto riesgo como elecciones y vigilancia…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI
Regulación y ética

USA Today demanda a OpenAI por uso no autorizado de artículos para entrenar sus modelos

USA Today Co. y varios periódicos locales de su propiedad presentaron una demanda contra OpenAI alegando que copió 'cientos de miles' de artículos para…

Por qué importaLa proliferación de demandas por derechos de autor contra OpenAI incrementa el riesgo legal y financiero para la compañía y sienta precedentes sobre…

Impacto bajo Fiabilidad varias fuentes The Verge AI
Regulación y ética

Common Sense Media halla fallas en controles parentales y ayuda en crisis de ChatGPT para adolescentes

Common Sense Media realizó más de 4.000 consultas para evaluar la versión de ChatGPT dirigida a adolescentes. El análisis encontró problemas en las alertas a…

Por qué importaLa seguridad de menores en plataformas de IA es un tema sensible que puede derivar en presión regulatoria y de reputación para OpenAI y otras…

Impacto bajo Fiabilidad declaración interesada El Tiempo Tecnósfera
Regulación y ética

Anthropic actualiza su política de uso y prohíbe el 'comportamiento abusivo o cruel' hacia Claude

Anthropic actualizó por primera vez en más de un año su política de uso de Claude, incorporando nuevos casos de riesgo como interferencia electoral, desarrollo…

Por qué importaLa medida refleja cómo las empresas de IA están ampliando sus políticas de uso no solo para proteger a usuarios y terceros, sino también para regular…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

El consejo de expertos de IA del Gobierno español presenta el Manifiesto de Madrid por control democrático

El consejo internacional de expertos que asesoró al Gobierno español en IA desde 2024 presentó el Manifiesto de Madrid por una IA responsable, con 25…

Por qué importaEl manifiesto marca una postura europea diferenciada frente a la autorregulación de las grandes tecnológicas, en un momento en que la legislatura…

Impacto bajo Fiabilidad varias fuentes eldiario.es Tecnología