Deutsches Start-up QuantPi erhält 2,5 Millionen Euro EU-Förderung, um die Vertrauenswürdigkeit generativer KI sicherzustellen

Von 648 vollständigen Bewerbungen, die beim Europäischen Innovationsrat eingingen, waren nur 7 % erfolgreich, was QuantPis Erfolg zu einem bemerkenswerten Meilenstein macht. Der Zuschuss wird strategisch eingesetzt, um QuantPis Engagement für die Sustainable Development Goals (SDGs; dt.: „Ziele für nachhaltige Entwicklung“) zu stärken und die in der KI-Verordnung sowie in der KI-Haftungsrichtlinie der EU dargelegten Grundsätze zu operationalisieren.

Während es Anbietern und Nutzern an Ressourcen und Technologien fehlt, um die Risiken generativer KI-Systeme zu beherrschen, baut QuantPi die notwendigen Schutzmaßnahmen auf. Die EU-Förderung wird in die Verbesserung der aktuellen KI-Testtechnologie des Unternehmens fließen, um die erste automatisierte Risikomanagement-Plattform zu schaffen, die Sicherheit, Fairness und Erklärbarkeit generativer KI-Systeme gewährleistet.

Für Anbieter von generativen KI-Systemen bietet diese Technologie eine Möglichkeit, höchste ethische Standards in ihr Produkt zu integrieren. Unternehmen, die GenAI-Tools kaufen möchten, können den Risikobewertungsprozess während der Beschaffung automatisieren, um ihren Kundenstamm zu schützen und sicherzustellen, dass nur in hochwertige KI investiert wird. Und schließlich wird die Gewissheit, dass strenge Tests zur Einhaltung der EU-Standards durchgeführt wurden, das Vertrauen der Nutzer in generative KI-Systeme erheblich steigern.

Der CEO von QuantPi, Philipp Adamidis, äußerte sich begeistert über die Förderung und erklärte:

"Dies ist ein Beweis für die harte Arbeit und das Engagement des gesamten QuantPi-Teams. Wir freuen uns, dass wir diese Mittel nutzen können, um den sicheren und verantwortungsvollen Einsatz von KI zu gewährleisten, ohne dabei den Fortschritt zu bremsen. Die Förderung beschleunigt nicht nur unsere Forschungs- und Entwicklungsbemühungen, sondern unterstützt auch unser Engagement, einen positiven Beitrag für die Gesellschaft zu leisten."

Oliver Luksic, Parlamentarischer Staatssekretär im Bundesministerium für Digitales und Verkehr, würdigte ebenfalls die Bedeutung des Erfolgs von QuantPi und erklärte:

"Der Zuschuss des Europäischen Innovationsrates für QuantPi ist ein Beispiel für das Engagement der EU für die Förderung von Innovationen unter Wahrung ethischer Standards. Diese Investition wird zweifelsohne zu den Bemühungen der europäischen Gemeinschaft beitragen und ich glaube, dass QuantPi auf dem richtigen Weg ist, um zukunftsweisende Lösungen anzubieten."

QuantPi hat sich zum Ziel gesetzt, Europa und die globale Gemeinschaft nachhaltig zu beeinflussen, indem es Pionierarbeit bei der sicheren Nutzung von generativer KI leistet. Das vielfältige, internationale Team ist davon überzeugt, dass Ethik und gesellschaftliches Wohlergehen die Triebfedern für qualitativ hochwertige Innovationen sind, und freut sich darauf, in Zusammenarbeit mit seinen etablierten Partnern aus Forschung, Industrie und Standardisierung für vertrauenswürdige KI zu sorgen.

Prof. Dr. Dr. h.c. Michael Backes, CEO und Gründungsdirektor des CISPA Helmholtz-Zentrums für Informationssicherheit, einer der weltweit führenden Forschungsstätten für Cybersicherheit, erklärte:

"Dies ist ein großer Meilenstein für ein Start-up, das wir von Anfang an unterstützt haben, und der nächste logische Schritt auf QuantPis technologischem Weg von der Grundlagenforschung zur industriellen Anwendung. Die Sicherstellung der Vertrauenswürdigkeit von KI-Systemen durch transparente und skalierbare Tests ist eine Grundvoraussetzung für unser aller Leben – insbesondere in der neuen Ära der generativen KI."