KI-basierte Software-Systeme prüfen und validieren

Der Einsatz von Künstlicher Intelligenz beeinflusst bereits heute unser Leben:

Banken beurteilen unsere Kreditwürdigkeit mittels KI-basierter Software, Versicherungen kalkulieren Versicherungstarife KI-basiert auf Basis individueller Risiken, medizinische KI-Software unterstützt die ärztliche Diagnose, z.B. durch eine KI-basierte Analyse von Röntgenbildern.

Der Einsatz derartiger KI-basierter Software zur Entscheidungsunterstützung bietet enorme Vorteile: auch bei sehr hohen Fallzahlen und großen Datenmengen, kann die KI-Software jeden einzelnen Datensatz (z.B. den Versicherungsantrag des Kunden oder das Röntgenbild des Patienten) individuell analysieren und vollautomatisch eine Klassifizierung vornehmen. Das KI-System wird dabei auch nach tausenden Datensätzen nicht müde oder unaufmerksam und wendet stets dieselben Kriterien an.

Das Ergebnis solcher automatisierten Entscheidungen kann für den betroffenen Kunden oder Patienten gravierende Auswirkungen haben. Beispielsweise, wenn ein Versicherungsantrag abgelehnt wird, weil das KI-System ein hohes Schadensrisiko prognostiziert. Oder wenn eine medizinische Diagnose falsch gestellt wird, weil das KI-System das Röntgenbild falsch klassifiziert.

KI-basierte Entscheidungssysteme und autonome Systeme

Das könnte Sie auch interessieren: