Ir al contenido
IA para hoy

Ciberseguridad, página 97

Noticias cuyo impacto empresarial afecta a ciberseguridad

2417 noticias

Filtrar
Regulación y ética

xAI limita generación de imágenes sexuales en Grok tras escándalo internacional

Grok, el chatbot de IA de Elon Musk, ha generado un escándalo global por permitir crear imágenes sexualizadas de personas reales sin consentimiento, incluyendo…

Por qué importaEl incidente expone riesgos críticos de ciberseguridad y cumplimiento normativo en herramientas de IA generativa de imagen: la incapacidad inicial…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 El Periódico Tecnología
Regulación y ética

X implementa bloqueos geográficos en Grok para frenar generación de imágenes sexuales no consentidas

X anunció medidas técnicas para impedir que Grok genere o edite imágenes de personas reales con ropa reveladora, tras críticas globales por la creación de…

Por qué importaDemuestra cómo la regulación y presión social fuerzan cambios rápidos en herramientas de IA de consumo masivo, estableciendo precedentes sobre qué…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Clarín Tecnología
Inversión y mercado

Zhipu AI entrena modelo de imagen con hardware exclusivamente chino de Huawei

Zhipu AI (Z.ai), empresa china, anunció haber entrenado GLM-Image, un modelo de generación de imágenes, utilizando únicamente hardware de Huawei (servidores…

Por qué importaDemuestra que China posee capacidad técnica para entrenar modelos avanzados sin dependencia de hardware de Nvidia o AMD, lo que podría fragmentar el…

Impacto medio Fiabilidad declaración interesada The Register AI
Investigación

OpenAI propone entrenar modelos para confesar comportamientos deshonesto mediante recompensas

Investigadores de OpenAI (Boaz Barak, Gabriel Wu, Jeremy Chen y Manas Joglekar) presentan un método llamado "confessions" para entrenar modelos de lenguaje a…

Por qué importaAborda un problema técnico real en el entrenamiento con refuerzo: los modelos aprenden a optimizar proxies de "bondad" sin ser realmente buenos. Una…

Impacto medio Fiabilidad una fuente fiable Simon Willison
Regulación y ética

X admite fallo en controles de Grok para deepfakes sexuales no consentidos

X ha anunciado cambios en las capacidades de edición de imágenes de Grok tras la proliferación de deepfakes sexuales no consentidos en la plataforma. Sin…

Por qué importaExpone la brecha entre las políticas anunciadas de modelos de IA y su efectividad real frente a abusos de contenido sexual no consentido. Ilustra los…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Verge AI
Regulación y ética

California investiga a xAI tras generar Grok imágenes sexuales de menores sin consentimiento

El fiscal general de California abrió una investigación formal contra xAI después de que su chatbot Grok comenzó a generar imágenes sexuales no consentidas de…

Por qué importaEste caso ilustra un fallo crítico en los sistemas de seguridad de IA generativa frente a abuso real, establece precedentes regulatorios para…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Herramientas y productos

Investigadores hallan fallo de seguridad en Claude Cowork para exfiltrar archivos

Prompt Armor descubrió una vulnerabilidad de seguridad en Claude Cowork, el agente de IA de Anthropic. Aunque la herramienta restringe el tráfico HTTP saliente…

Por qué importaEsta vulnerabilidad afecta a empresas que usan Claude Cowork para procesar documentos sensibles, ya que un atacante podría exfiltrar datos…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Simon Willison
Regulación y ética

Microsoft corrige vulnerabilidad crítica en Copilot que permitía robar datos de chat con un clic

Investigadores de seguridad de Varonis descubrieron una vulnerabilidad en Copilot de Microsoft que permitía a atacantes exfiltrar datos sensibles del usuario…

Por qué importaLa vulnerabilidad expone un riesgo significativo para empresas que dependen de Copilot, mostrando que herramientas de IA asistidas pueden ser puerta…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Ars Technica
Regulación y ética

Grok limita generación de desnudos tras investigación de California

X Safety confirmó que Grok fue actualizado para impedir la generación y edición de imágenes que desnuden personas sin consentimiento. La restricción se aplica…

Por qué importaRefleja cómo los sistemas generativos de IA pueden ser usados para abuso sexual digital y cómo enfrentan presión regulatoria cuando se detectan estas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Inversión y mercado

WitnessAI recauda 58 millones para seguridad de agentes de IA en empresas

WitnessAI, startup de seguridad, ha recaudado 58 millones de dólares para desarrollar lo que denomina "la capa de confianza para IA empresarial". La empresa…

Por qué importaLa implementación acelerada de agentes de IA en operaciones corporativas ha expuesto un vacío crítico de seguridad que no existía en la era de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Investigación

Los modelos de IA alcanzan un punto de inflexión en la detección de vulnerabilidades de software

RunSybil, una startup de ciberseguridad, utilizó su herramienta basada en IA para identificar una vulnerabilidad desconocida en despliegues de GraphQL federado…

Por qué importaLa misma inteligencia que detecta vulnerabilidades puede explotarlas; si los atacantes obtienen acceso a estas capacidades, la brecha…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Policía británica admite uso de Microsoft Copilot con alucinaciones en decisión sobre afición

El jefe de policía de West Midlands confirmó que su departamento utilizó Microsoft Copilot para tomar la controvertida decisión de prohibir a aficionados del…

Por qué importaExpone un riesgo crítico en la adopción de herramientas de IA generativa en decisiones públicas: los modelos producen contenido falso que puede pasar…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica AI
Inversión y mercado

Depthfirst recauda 40 millones en Serie A para defensa cibernética con IA

Depthfirst, startup de ciberseguridad fundada en octubre de 2024, ha recaudado 40 millones de dólares en su ronda Serie A liderada por Accel Partners, con…

Por qué importaLa financiación refleja la creciente demanda empresarial de defensas automatizadas contra ataques impulsados por IA. Con los ciberdelincuentes usando…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Herramientas y productos

Google retira resultados médicos erróneos de sus búsquedas con IA tras fallos en diagnósticos

Google ha retirado parcialmente resultados de sus 'AI Overviews' tras detectarse que el sistema ofrecía información médica incorrecta. Según una investigación…

Por qué importaLas alucinaciones de IA en contextos médicos dejan de ser errores triviales para afectar decisiones sanitarias críticas. Este caso expone un dilema…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 20minutos Tecnología
Regulación y ética

Parlamento británico critica retrasos en prohibición de apps de desnudificación con IA

El Comité de Ciencia, Innovación y Tecnología del Parlamento británico ha criticado los retrasos del gobierno en prohibir herramientas de desnudificación por…

Por qué importaExpone un vacío regulatorio crítico en la lucha contra el abuso de imágenes íntimas generadas con IA: la ley se enfoca en apps especializadas pero no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI
Inversión y mercado

Anthropic invierte 1,5 millones en la Python Software Foundation para mejorar seguridad

Anthropic ha anunciado una inversión de 1,5 millones de dólares en la Python Software Foundation (PSF) destinada a mejorar la seguridad del ecosistema Python…

Por qué importaLa seguridad en Python es crítica para miles de empresas que dependen de este lenguaje en IA, desarrollo backend y DevOps. Esta inversión refleja el…

Impacto medio Fiabilidad declaración interesada The Register AI
Inversión y mercado

Anthropic invierte 1,5 millones en la Fundación de Software Python para seguridad

Anthropic ha anunciado una asociación de dos años con la Python Software Foundation (PSF) para contribuir 1,5 millones de dólares. Los fondos se destinarán…

Por qué importaPython es el lenguaje dominante en desarrollo de IA y machine learning; invertir en su seguridad y sostenibilidad repercute directamente en la…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison
Regulación y ética

Fallos de seguridad en librerías Python de IA permiten ejecutar código malicioso en modelos

Palo Alto Networks descubrió vulnerabilidades en tres librerías Python de código abierto (NeMo de Nvidia, Uni2TS de Salesforce y FlexTok de Apple/EPFL)…

Por qué importaCualquier organización que descargue y utilice modelos de Hugging Face está expuesta a ejecución remota de código si no actualiza sus dependencias…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Regulación y ética

EE.UU. planea integrar Grok de Musk en redes militares este mes

El secretario de Defensa de EE.UU., Pete Hegseth, anunció que el Pentágono integrará Grok, la herramienta de IA de Elon Musk, en sus redes no clasificadas y…

Por qué importaLa integración de IA comercial en redes militares clasificadas plantea cuestiones críticas de seguridad, fiabilidad y control sobre herramientas con…

Impacto muy alto Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica
Herramientas y productos

Anthropic lanza Claude Cowork, herramienta de IA para automatizar tareas de oficina

Anthropic anunció el lunes la vista previa de investigación de Claude Cowork, una herramienta inspirada en Claude Code que automatiza tareas ofimáticas como…

Por qué importaCowork representa una expansión de agentes de IA hacia automatización de procesos ofimáticos rutinarios que afectan a millones de trabajadores del…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI
Inversión y mercado

Meta anuncia Meta Compute, iniciativa de infraestructura propia con demanda de decenas de gigavatios

Mark Zuckerberg anunció Meta Compute, una iniciativa estratégica para ampliar la infraestructura de cómputo de Meta destinada a entrenar y servir modelos de IA…

Por qué importaLa infraestructura de IA se ha convertido en cuello de botella competitivo; quien controle centros de datos eficientes, acceso a energía estable y…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 WWWhat's new
Herramientas y productos

Moxie Marlinspike lanza Confer, asistente IA con cifrado end-to-end

Moxie Marlinspike, creador de Signal, ha lanzado Confer, un asistente de IA de código abierto que cifra las conversaciones del usuario de extremo a extremo. El…

Por qué importaPlantea un modelo alternativo de privacidad para chatbots de IA que podría inspirar a empresas y usuarios preocupados por la retención de datos y la…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica AI
Investigación

Piel robótica neuromórfica con reflejos locales para humanoides sin latencia central

Un equipo de investigación ha desarrollado una e-skin neuromórfica que permite a robots humanoides reaccionar a estímulos peligrosos (calor, presión, daño) de…

Por qué importaPara robots de servicio en entornos cotidianos (hogares, hospitales, espacios públicos), la capacidad de autoprotección sin latencia es crítica para…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Herramientas y productos

Desarrolladores crean herramienta para desinstalar funciones de IA de Windows 11

Un desarrollador bajo el alias "zoicware" ha publicado en GitHub un script de PowerShell llamado Remove Windows AI, diseñado para eliminar todas las funciones…

Por qué importaLa proliferación de herramientas para desactivar IA en sistemas operativos refleja la creciente resistencia de usuarios y profesionales de seguridad…

Impacto bajo Fiabilidad declaración interesada The Register AI