Claude no logró diseñar un antídoto contra el veneno de escorpión en un experimento de Citrini Research
Hecho Qué ha ocurrido
Citrini Research, una firma de investigación financiera, probó con Anthropic una versión no publicada de Claude para diseñar un antídoto contra el veneno de escorpión. Según expertos consultados por The Verge, el modelo generó algunos puntos de partida prometedores, pero nada cercano a un fármaco real. La propia firma reconoce que no sabía nada sobre IA aplicada a la biología.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Sirve de contraste frente a las promesas sobre el descubrimiento de fármacos con IA: los resultados publicados por la propia empresa deben verificarse antes de darse por válidos.
- Quién se ve afectado
- Equipos de I+D farmacéutica y empresas que evalúan la IA para descubrimiento de fármacos.
- Qué puede cambiar
- Por ahora no cambia la práctica; refuerza la necesidad de validar con expertos del dominio y con pruebas de laboratorio las capacidades atribuidas a modelos generalistas en ciencias de la vida.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si Anthropic u otros laboratorios publican evaluaciones independientes de biología con modelos de próxima generación, y si aparecen resultados experimentales verificados fuera de estos ensayos.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLM Citrini ResearchAnthropic Anthropic biología Citrini Research Claude descubrimiento de fármacos
Relacionadas
Descubren que usaban Claude para el estudio y diseño de una gripe aviar en humanos
Un informe de Anthropic detalla situaciones detectadas donde se intentó hacer un mal uso de la plataforma de IA
Anthropic admite que no puede descartar que Claude contribuya al desarrollo de armas biológicas
Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…
Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…
Anthropic detecta intentos de usar Claude para investigar armas biológicas
Anthropic anunció que detectó posibles complots que usaban su modelo de IA Claude para presuntamente investigar sobre armas biológicas. La compañía enmarca el…
Por qué importaConfirma que los modelos de IA generativa avanzada pueden ser objeto de intentos de uso malicioso en dominios de alto riesgo como armas biológicas…
Anthropic detecta intentos de usar Claude para investigación en armas biológicas
Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…
Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.