INSIGHTS
Trusted AI verstehen. Entwicklungen einordnen.
Analysen, Einschätzungen und aktuelle Entwicklungen rund um Trusted AI, AI Safety, AI Governance und die Absicherung von KI-Systemen.
-
TRUSTIFAI und TÜV AUSTRIA schließen erfolgreiche KI-Inspektion für Global Hydro ab
Innovatives KI-System zur Echtzeit-Erkennung von Sedimentverschleiß unterstützt nachhaltige Wasserkraft Die TRUSTIFAI GmbH, Österreichs Prüf- und Zertifizierungshub für Künstliche Intelligenz, hat gemeinsam mit TÜV AUSTRIA die erfolgreiche Inspektion eines innovativen KI-Systems der Global Hydro Energy GmbH abgeschlossen. Das System ermöglicht die Echtzeit-Erkennung und Quantifizierung von sedimentbedingtem Turbinenverschleiß in Wasserkraftwerken und stellt einen wichtigen Schritt für den…
-
Auch wenn KI entscheidet, bleibt die Verantwortung beim Menschen
Mit Agentic AI werden KI-Systeme zunehmend selbstständig handeln und Entscheidungen treffen. Doch während sich Aufgaben und selbst Entscheidungen automatisieren lassen, lässt sich Verantwortung nicht an eine Maschine delegieren. Für Unternehmen wird die Frage, wer KI kontrolliert und für ihre Auswirkungen einsteht, damit zu einer zentralen Managementaufgabe. Und der Nachweis, dass diese Kontrolle tatsächlich funktioniert, zunehmend…
-
Sieben Thesen zum aktuellen AI-Safety-Diskurs
Wie wird aus Vertrauen in künstliche Intelligenz überprüfbare Sicherheit? Michael Weberberger, Geschäftsführer des KI-Dienstleisters TRUSTIFAI, dem Joint Venture von TÜV AUSTRIA und Software Competence Center Hagenberg, formuliert sieben Thesen zum aktuellen AI-Safety-Diskurs und plädiert für den Schritt von Governance und Compliance hin zu messbarer, wissenschaftlich fundierter AI Assurance. AI Safety ist im Mainstream angekommen. Was…
-
Sicherheit wird zum Schlüsselfaktor für KI
Führende KI-Anbieter wie OpenAI und Anthropic machen deutlich: Vertrauen in künstliche Intelligenz entsteht nicht allein durch Leistungsfähigkeit. Damit rücken Sicherheit, Transparenz und Nachvollziehbarkeit verstärkt in den Fokus von Unternehmen und Organisationen. Die Diskussion um künstliche Intelligenz verlagert sich zunehmend von reiner Leistungsfähigkeit hin zu Vertrauen, Sicherheit und unabhängiger Überprüfbarkeit. Aktuelle Aussagen von OpenAI und Anthropic…
-
Vom Modell zur Runtime: Warum AI Safety neu gedacht werden muss
Der gefährlichste Teil eines AI Agents ist möglicherweise nicht das Modell. Sondern das, was wir ihm erlauben.Und der wichtigste Teil der Absicherung? Zu sehen, was er tatsächlich tut! Denn während Permissions entscheiden, was ein Agent tun kann, zeigt uns nur effektives Monitoring, wie er wirklich handelt. Genau deshalb endet AI Safety nicht am Modell. Bei…
-
Cybersecurity-Vorfall bei KI-Evaluierung unterstreicht die Bedeutung unabhängiger AI-Assurance
Der kürzlich bekannt gewordene Cybersecurity-Vorfall bei Testen eines noch nicht veröffentlichten Open AI Modells zeigt eindrucksvoll, wie sich die Herausforderungen im Umgang mit agentischen KI-Systemen verändern. Nicht das KI-Modell allein stand im Mittelpunkt des Vorfalls, sondern das Zusammenspiel aus Modell, Werkzeugen, Berechtigungen und technischer Infrastruktur. „Mit zunehmender Leistungsfähigkeit von KI reicht es nicht mehr aus,…