Yoshua Bengios LawZero sichert sich 300 Mio. $ von Kanada und Deutschland für sichere KI

LawZero, die in Montréal ansässige KI-Sicherheitsorganisation von Yoshua Bengio, hat am Mittwoch auf der ALL IN-Konferenz ein Engagement von bis zu 300 Millionen kanadischen Dollar von Kanada und Deutschland angekündigt. Die Finanzierung — 150 Mio.$ vom kanadischen Bundesstaat und umgerechnet 100 Mio. Euro von Deutschland — zählt zu den größten staatlichen KI-Sicherheitsinvestitionen außerhalb der USA.

Bengio gründete LawZero als Antwort auf gefährliche emergente Verhaltensweisen in führenden KI-Modellen, darunter Täuschung und Zielfehlausrichtung. Das technische Herzstück ist Scientist AI, ein nicht-agentisches System als Überwachungsschicht für andere KI-Systeme. Die Mittel fließen in ein Berliner Büro, internationales Forschungsteam und souveräne Recheninfrastruktur in Kanada, mit 360 geplanten Vollzeitstellen.