Testen von Künstlicher Intelligenz (KI)

Künstliche Intelligenz (KI) ist in immer mehr Einsatzbereichen zu finden, sei es beim autonomen Fahren, in der Unterstützung von Marketing und Vertrieb oder bei der Erkennung fehlerhafter Teile – sogar Kunstwerke werden schon von KI geschaffen.

Der Einsatz von künstlicher Intelligenz bietet große Chancen, er birgt aber auch Risiken. Auf jeden Fall müssen KI-basierte Anwendungen und Systeme genauso vor ihrem Einsatz auf Erfüllung der Anforderungen und gesetzlicher Vorschriften geprüft werden wie jedes herkömmliche (im Sinne von Nicht-KI) System.

Denn KI-basierte Anwendungen und Systeme müssen die Erwartungen der Nutzer treffen, die vertraglichen Anforderungen leisten, gesetzliche Anforderungen und Normen erfüllen wie jedes andere System auch. Falls zusätzlich noch Leben auf dem Spiel stehen, muss auch die Sicherheit gewährleistet sein, wie in jedem anderen sicherheitskritischen System auch. Insofern muss das alles auch entsprechend geprüft und getestet werden.

Dies ist ein Thema, das in absehbarer Zeit auf die Industrie zukommen wird. In der jüngsten Vergangenheit gab es zum Beispiel tödliche Unfälle mit autonom fahrenden Fahrzeugen: Die SZ berichtet am  19.3.2018 (https://www.sueddeutsche.de/wirtschaft/kuenstliche-intelligenz-frau-stirbt-bei-unfall-mit-autonomen-auto-von-uber-1.3913385)

Im selben Artikel wird auf einen anderen Fall 2016 hingewiesen: Der Elektroautobauer Tesla war bereits an mehreren Unfällen beteiligt, die Wagen verursachten, während sie im so genannten Autopilot unterwegs waren.

Selbst wenn die Hersteller darauf hinweisen, dass das System den Fahrer nur unterstützen soll, und der Fahrer dafür verantwortlich ist, noch manuell eingreifen zu können bzw. einzugreifen, so wird man aus verschiedenen Gründen in absehbarer Zeit vollautonome, auf KI basierende Systeme einsetzen. Und spätestens dann darf so etwas nicht mehr vorkommen, sondern die autonomen Fahrzeuge müssen genau so sicher und intensiv getestet worden sein, wie konventionelle Systeme.

Sie suchen nach einem geeigneten Partner, der Sie bei diesem Themaunterstützt? Ganz gleich, ob Sie eine entwickeln oder aber mit KI testen wollen, wir helfen und beraten Sie zu Ihrem Projekt. Außerdem helfen wir Ihnen, die richtigen Qualitätsmaßnahmen durchzuführen und Vertrauen in Ihr Produkt zu schaffen.

Jetzt Beratungstermin vereinbaren!

Was ist KI, bzw. imbus Definition von KI

Für verschiedene KI-Systeme werden verschiedene Testmethoden eingesetzt. So wird man z.B. ein Expertensystem, in dem die Erfahrung von Ärzten in einem Regelkatalog implementiert wurde, anders testen müssen als ein System, das nach dem Lernen von sehr vielen Datensätzen Betrug bei der Kreditvergabe erkennen soll.

Deshalb müssen wir jeweils definieren, was genau wir meinen, wenn wir über Qualitätssicherung und Testen von KI sprechen.

Es gibt verschiedene Arten von KI (siehe folgende Grafik), meist ist aber Maschinelles Lernen (Machine Learning) gemeint, wenn darüber gesprochen wird.

Das könnte Sie auch interessieren: