Noticias etiquetadas con «seguridad»
354 noticias
OpenAI ha publicado un artículo técnico explicando cómo construyó un sandbox seguro para habilitar Codex en Windows, con controles de acceso a archivos y…
Por qué importaLa expansión de Codex a Windows con controles de seguridad facilita su adopción en entornos empresariales donde predomina este sistema operativo…
Anthropic ha presentado Claude Mythos Preview, un modelo de IA de acceso restringido capaz de detectar vulnerabilidades de seguridad, y ha comunicado que…
Por qué importaLa ciberseguridad es crítica para gobiernos e instituciones financieras, y el discurso de estas empresas sobre IA como defensa indispensable impulsa…
OpenAI ha publicado una descripción de las prácticas de seguridad que aplica internamente al ejecutar Codex, su agente de codificación, incluyendo sandboxing…
Por qué importaDa visibilidad sobre las medidas técnicas que las empresas pueden replicar o exigir al desplegar agentes de codificación autónomos en sus propios…
Mozilla anunció haber identificado 271 fallos de seguridad en Firefox durante dos meses utilizando Mythos, un modelo de IA de Anthropic diseñado para detección…
Por qué importaDemuestra que la IA-asistida para seguridad ha dejado de ser experimental y es viable en producción, lo que cambia el modelo de detección de…
Mozilla utilizó acceso anticipado a Claude Mythos para desarrollar técnicas de automatización que localizaron y permitieron corregir 423 vulnerabilidades de…
Por qué importaDemuestra que los modelos de IA avanzados pueden acelerar dramáticamente la identificación de defectos de seguridad críticos en software de uso…
OpenAI ha introducido Trusted Contact en ChatGPT, una función de seguridad opcional que notifica a una persona de confianza designada por el usuario cuando se…
Por qué importaRefleja la creciente presión sobre las plataformas de IA conversacional para gestionar riesgos de salud mental y responsabilidad legal asociados al…
ServiceNow ha presentado una versión mejorada de su AI Control Tower que ahora funciona como centro de comando empresarial para gestionar activos de IA en toda…
Por qué importaA medida que las empresas escalan despliegues de IA, el sprawl (proliferación descontrolada) de agentes y modelos se convierte en riesgo de…
AWS publicó en su blog de Machine Learning un artículo técnico detallando cómo implementar Amazon Bedrock AgentCore Identity para asegurar acceso de agentes IA…
Por qué importaLos agentes IA en producción requieren mecanismos confiables de autenticación y autorización para acceder a servicios de terceros sin comprometer…
La matemática británica Hannah Fry realizó un experimento con un agente IA construido con OpenClaw al que proporcionó acceso a una tarjeta de crédito y tareas…
Por qué importaEl experimento evidencia que los agentes autónomos con acceso a credenciales, internet e instrucciones no verificadas pueden ser manipulados para…
Meta ha lanzado una nueva pestaña de Insights dentro de su sistema de supervisión parental en Teen Accounts, disponible en EE.UU., Reino Unido, Australia…
Por qué importaLa supervisión del uso de IA por menores es una prioridad regulatoria y de responsabilidad corporativa creciente; estas herramientas establecen un…
El fiscal general de Florida anunció una investigación criminal contra OpenAI y ChatGPT por presuntamente asesorar al responsable de un tiroteo masivo en la…
Por qué importaRepresenta el primer intento de responsabilidad criminal de una administración estatal contra una empresa de IA por su función en un delito violento…
OpenAI ha anunciado un programa piloto de becas (Safety Fellowship) para apoyar investigación independiente en seguridad y alineación de IA, así como para…
Por qué importaLa inversión en talento especializado en seguridad y alineación es crítica para empresas que despliegan sistemas IA avanzados; este programa marca un…
Investigadores han descubierto tres nuevos ataques Rowhammer (GDDRHammer, GeForce y GPUBreach) que explotaban vulnerabilidades en la memoria DRAM de GPUs…
Por qué importaLas organizaciones que utilizan GPUs compartidas en la nube para cargas de trabajo de IA y computación de alto rendimiento enfrentan un riesgo…
AWS ha publicado en su blog de Machine Learning un tutorial sobre cómo configurar AWS Network Firewall para limitar el acceso a internet de los agentes de…
Por qué importaLas empresas que despliegan agentes IA con acceso web necesitan controlar y auditar ese acceso para cumplir requisitos de seguridad y regulación…
Anthropic incluyó por error un archivo de depuración en una actualización rutinaria de Claude Code el martes, exponiendo aproximadamente 1.900 archivos y…
Por qué importaEl incidente ilustra vulnerabilidades críticas en la cadena de distribución de software y la dificultad de contener filtraciones en la era de…
OpenAI ha anunciado un programa Safety Bug Bounty destinado a identificar abusos y riesgos de seguridad en sus sistemas de IA, incluidas vulnerabilidades de…
Por qué importaLos programas de recompensas por vulnerabilidades aceleran la identificación de riesgos de seguridad críticos en sistemas IA de producción…
Reco, empresa de seguridad en SaaS, implementó Amazon Bedrock con el modelo Claude de Anthropic para transformar alertas de seguridad técnicas en narrativas…
Por qué importaPara directivos de seguridad, esto ejemplifica cómo los LLM pueden automatizar tareas manuales repetitivas en operaciones críticas, reduciendo carga…
NVIDIA ha anunciado OpenShell, un runtime de código abierto diseñado como «seguro por diseño» para ejecutar agentes autónomos de IA. El sistema funciona…
Por qué importaA medida que los agentes autónomos ganan capacidades para leer archivos, ejecutar código y acceder a sistemas empresariales, los riesgos de seguridad…
OpenAI ha desarrollado Sora 2, un modelo de video de última generación, junto con una nueva aplicación (Sora app) diseñada como plataforma social para la…
Por qué importaLos modelos de generación de video plantean riesgos específicos (deepfakes, desinformación, suplantación) que difieren de los LLMs. La decisión de…
OpenAI Japan ha anunciado el Japan Teen Safety Blueprint, un conjunto de medidas para reforzar la protección de adolescentes en plataformas de IA generativa…
Por qué importaLas directrices de protección de menores se están convirtiendo en un requisito regulatorio y comercial en mercados clave. Para empresas que operan en…
Google Research y Beth Israel Deaconess Medical Center completaron el primer estudio prospectivo de AMIE (Articulate Medical Intelligence Explorer), un sistema…
Por qué importaEste estudio valida la viabilidad y seguridad de desplegar IA conversacional en flujos clínicos reales bajo supervisión, abriendo la puerta a que…
OpenAI ha publicado orientaciones sobre cómo diseñar agentes de IA resistentes a inyección de prompts y ingeniería social. El enfoque incluye la restricción de…
Por qué importaLa inyección de prompts es una vulnerabilidad crítica en sistemas de agentes autónomos que pueden ejecutar acciones; las defensas publicadas por…
Meta ha anunciado nuevas herramientas impulsadas por IA para combatir fraudes en sus plataformas. Las medidas incluyen alertas de enlace de dispositivos…
Por qué importaLa detección de fraudes es un desafío operacional creciente para plataformas y empresas que anuncian. El despliegue de IA multimodal (texto…
OpenAI ha adquirido Promptfoo, una plataforma de seguridad de IA que ayuda a empresas a identificar y remediar vulnerabilidades en sistemas de IA durante su…
Por qué importaLa adquisición refuerza el enfoque de OpenAI en seguridad y governance de IA, incorporando herramientas especializadas para que las empresas auditen…
