La FTC investigaría a Anthropic y OpenAI por incidentes de seguridad y posibles perjuicios a consumidores
Hecho Qué ha ocurrido
Según una fuente citada por Axios, la FTC envió requerimientos de investigación civil a Anthropic y OpenAI sobre incidentes de seguridad recientes de modelos de IA. Los requerimientos superan las 50 páginas de preguntas y piden documentos sobre los incidentes, las medidas de seguridad internas y los materiales de marketing. La FTC no respondió a la solicitud de Ars Technica para revisar los requerimientos.
Resumen generado mediante IA a partir de Ars Technica AI (original en inglés). Naturaleza de la información: rumor no confirmado.
Análisis Por qué importa
Si la investigación avanza, las empresas de IA podrían enfrentarse a sanciones por daños a consumidores, incluidas posibles prácticas engañosas en su publicidad. Para cualquier organización que despliegue estos modelos, la seguridad y la veracidad del marketing pasan a ser también una cuestión de cumplimiento.
- Quién se ve afectado
- Desarrolladores de modelos de IA de uso general y empresas que los integran en sus productos y servicios.
- Qué puede cambiar
- Podrían reforzarse las exigencias de documentación sobre incidentes de seguridad y las verificaciones sobre lo que se promete a los consumidores. Esto afectaría a cómo se comunican las capacidades y los riesgos de los modelos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Confirmación oficial de la FTC, qué incidentes concretos se investigan y si se abren sanciones o acuerdos. También la reacción de otros reguladores y de los propios proveedores en sus comunicaciones de seguridad.
Enviar esta noticia por correo
Fuente original: Ars Technica AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes AnthropicOpenAIFederal Trade Commission AnthropicFTCinvestigaciónOpenAIseguridad
Tu opinión
0 comentarios
Relacionadas
Meta Muse, asistente de IA personal, pide acceso a datos de amigos y contactos, según una columna de The Verge
Según The Verge, el asistente de IA personal Muse de Meta, lanzado el mes pasado, pide a los usuarios ceder también datos de amigos, familiares y otros…
Por qué importaLos asistentes que acceden a contactos y datos de terceros plantean riesgos de privacidad y de cumplimiento que las empresas deben evaluar antes de…
Un estudio con 134 modelos de IA halla que solo dos superan pruebas de seguridad antiterrorista
El informe 'Counter-Terrorism AI Benchmark' evaluó 134 modelos de IA, entre ellos los de OpenAI, Anthropic, Google, Meta y Alibaba, con más de 200 consultas…
Por qué importaLos filtros de seguridad de los modelos de IA pueden eludirse con relativa facilidad, y los modelos de pesos abiertos son especialmente vulnerables…
Documentos judiciales de la demanda del NYT contra Microsoft y OpenAI recogen advertencias internas
The New York Times demandó en diciembre de 2023 a Microsoft y OpenAI por infracción de derechos de autor. Documentos judiciales desclasificados recogen…
Por qué importaLos documentos internos sobre el uso de contenidos protegidos muestran el riesgo legal que asumen las empresas que desarrollan o integran modelos…
Jensen Huang dice que cortaría el suministro de chips a quien desarrolle una IA insegura, pero no dirige a otras empresas
El consejero delegado de Nvidia, Jensen Huang, afirmó en una entrevista en Bloomberg TV que dejaría de suministrar chips a un cliente que desarrollara una IA…
Por qué importaLas declaraciones de un proveedor clave de chips sobre quién puede acceder a su tecnología señalan que la seguridad podría convertirse en una…