chain-of-thought

OpenAI lanza Astra, su modelo más potente y polémico por su opacidad

OpenAI lanzó el jueves Astra, su modelo más avanzado hasta la fecha, disponible primero para clientes de su programa de ciberseguridad Daybreak y, en una…

Por qué importaUn modelo con capacidades ofensivas de ciberseguridad y menor transparencia en su razonamiento plantea riesgos de seguridad y gobernanza justo cuando…

Investigadores demuestran vulnerabilidad fundamental en LLMs imposible de resolver completamente

Un equipo de investigadores presentó en la Conferencia Internacional de Aprendizaje Automático (ICML) un artículo que argumenta que es imposible asegurar…

Por qué importaEsta investigación revela que las defensas actuales basadas en etiquetado de roles y red-teaming no pueden resolver completamente el problema de…