El fabricante estadounidense de chips Nvidia ha prometido recursos informáticos por valor de 250 millones de dólares para el Reino Unido durante los próximos cinco años, en apoyo a la investigación sobre la seguridad de la inteligencia artificial.

El fundador y director ejecutivo de la empresa, Jensen Huang, dijo el miércoles que el apoyo incluirá capacidad informática acelerada por valor de 50 millones de dólares al año.

AD PLACEHOLDER

Estos recursos se utilizarán para probar la seguridad de los agentes de IA y permitirán a los investigadores británicos desarrollar salvaguardias para sistemas cada vez más potentes.

Huang destacó que el avance de las capacidades de la inteligencia artificial debe ir acompañado de una mejora de su seguridad.

El apoyo de Nvidia refuerza los esfuerzos del Reino Unido por asumir un papel de liderazgo en la evaluación y gestión de los riesgos de la IA. Parte de este trabajo se lleva a cabo a través del Instituto de Seguridad de la Inteligencia Artificial, una de las primeras instituciones respaldadas por el Estado para evaluar esta tecnología.

La atención a la seguridad ha aumentado tras los casos de comportamientos engañosos o no deseados de agentes de IA, señalados por empresas como Anthropic y OpenAI. Mientras tanto, algunos representantes del sector también han advertido de posibles riesgos existenciales derivados de la tecnología.

Kanishka Narayan, responsable de inteligencia artificial en el Gobierno británico, dijo que la contribución ayudará a garantizar que los futuros sistemas de IA sean seguros y sirvan a los intereses de las personas.