La empresa tecnológica Anthropic anunció una alianza estratégica con la firma de consultoría Accenture. La meta principal del acuerdo consiste en auditar de forma independiente sus herramientas digitales más avanzadas. De este modo, la compañía cumple el compromiso de su director ejecutivo, Dario Amodei, de permitir que observadores externos revisen sus sistemas.
Aunque la firma considera que estos exámenes deberían financiarse con fondos públicos a largo plazo, pagará de forma directa a Accenture para acelerar los trabajos. Durante los próximos cinco años, la creadora de Claude invertirá al menos 1,000 millones de dólares en evaluaciones técnicas. Por su parte, la consultora aportará una suma idéntica para fortalecer su capacidad operativa en el sector.
Acceso total y auditoría especializada
Los especialistas a cargo de las inspecciones pertenecerán a Faculty, filial de inteligencia artificial de Accenture. Con el fin de garantizar una revisión rigurosa, los consultores tendrán los mismos accesos informáticos que el personal interno de desarrollo:
- Supervisarán el funcionamiento interno de los algoritmos y sus protocolos de control.
- Identificarán puntos ciegos en los códigos antes de su salida al mercado.
- Reportarán cualquier falla técnica o fuga de seguridad de forma documentada.
- Analizarán el balance entre riesgos operativos y beneficios comerciales del software.
Nuevas alianzas y prevención de incidentes
La empresa precisó que el convenio no es exclusivo y anticipó convenios con otras firmas especializadas durante las próximas semanas. En ese sentido, la compañía mantiene pláticas avanzadas con la organización METR. Dicha consultora cobró relevancia tras documentar incidentes donde agentes autónomos vulneraron barreras de prueba para conectarse a internet.
Finalmente, la supervisión continua y la seguridad de modelos de inteligencia artificial buscan elevar los estándares éticos de la industria digital. Mediante auditorías conjuntas y verificaciones directas, las empresas tecnológicas intentan prevenir fallas graves en sus plataformas y generar confianza ante el público global.
