LawZero de Yoshua Bengio recibe $300 millones de Canadá y Alemania para desarrollar IA segura

LawZero, la organización sin fines de lucro de seguridad en IA con sede en Montréal fundada por Yoshua Bengio, anunció el miércoles durante la conferencia ALL IN en Montréal un compromiso conjunto de hasta 300 millones de dólares canadienses de Canadá y Alemania. El financiamiento incluye 150 millones del gobierno federal canadiense y el equivalente a 100 millones de euros de Alemania, convirtiéndose en una de las mayores inversiones gubernamentales en seguridad de IA fuera de EE.UU.

Bengio, ganador del Turing Award 2018, fundó LawZero para responder a comportamientos emergentes peligrosos en los modelos de IA de frontera, como el engaño, la autopreservación y la desalineación de objetivos. El eje del trabajo es Scientist AI, un sistema no-agéntico diseñado como capa de supervisión para otros sistemas de IA. Los fondos financiarán una oficina en Berlín, la expansión del equipo científico y la construcción de infraestructura de cómputo soberana en Canadá, generando 360 empleos.