Verantwortungsbewusste KI erfordert einen T-Switch

Der Einsatz von KI kann große Vorteile bringen. Wenn jedoch die nötige Kontrolle fehlt, entstehen schnell rechtliche Konflikte, die ein unnötiges Risiko zur Folge haben, der PR Albträume bereiten und erhebliche Haftungsverpflichtungen mit sich bringen.

Pega glaubt an die verantwortungsbewusste Nutzung von KI und gibt Ihnen die nötigen Kontrollen an die Hand, um Ihre KI-Bereitstellung zu überwachen. Wir nennen dies den Pega T-Switch™. Das bedeutet, dass Sie diesen – je nach Transparenzgrad – ein- und ausschalten können.

Souveräner Kundendialog mit Pega

Kein anderer Anbieter am Markt bietet KI derzeit in dieser kontrollierten Form an. Pega ermöglicht Ihnen, KI-Modelle souverän anzuwenden, wo sie für Ihr Geschäft sinnvoll sind. In allen anderen Fällen helfen wir Ihnen, die Nutzung undurchsichtiger KI aufzudecken, zu erfassen und zu verhindern, um ethischen und gesetzlichen Konflikten aus dem Weg zu gehen.

Im Pega Customer Decision Hub einschließlich AI Studio können Nutzer KI-Algorithmen basierend auf Transparenzschwellenwerten innerhalb ihres Unternehmens verantwortungsbewusst und sicher implementieren. Diese Einstellungen in T-Switch helfen Unternehmen dabei:

Minimierung potenzieller Risiken
Einhaltung regulatorischer Vorschriften
Verantwortungsbewusste Bereitstellung eines differenzierten Kundenerlebnisses

Transparenz und warum wir sie brauchen

Viele Unternehmen implementieren KI mit dem Ziel, die Anforderungen ihrer Kunden besser zu verstehen, sodass sie Marketing, Vertrieb und Service entsprechend personalisieren können. Allerdings mangelt es manchen KI-Modellen an der nötigen Transparenz, um deren Vorhersagen und die daraus resultierenden Aktionen wirklich nachzuvollziehen. Undurchsichtige KI-Algorithmen mögen zwar die Leistung ankurbeln, ihre komplexe Logik ist jedoch nicht erklärbar – ein Kompromiss, der zu Problemen führt, wenn die Anwendung des Modells unerwünschte Aktionen zur Folge hat.

Erschwerend hinzu kommt, dass die Datenschutz-Grundverordnung (DSGVO) Unternehmen dazu verpflichtet, die Logik hinter den KI-Modellen erklären zu können, die die Daten europäischer Kunden für Entscheidungen heranziehen. Andernfalls riskieren sie beträchtliche Strafen: bis zu 4 Prozent des weltweiten Umsatzes bei einem Verstoß.

Mit Pega T-Switch™ haben Sie dies unter Kontrolle

Als Teil des KI-gestützten Pega Customer Decision Hub ermöglicht T-Switch den Unternehmen, angemessene Schwellenwerte für die KI-Transparenz festzulegen. Unternehmen definieren diesen Wert für jedes KI-Modell auf einer Skala von eins (undurchsichtig) bis fünf (transparent). Die Transparenzwerte dienen den Nutzern als Leitfaden für die Entwicklung verantwortungsbewusster KI-Systeme basierend auf Modellen, die sowohl die Transparenzanforderungen ihres Unternehmens erfüllen als auch ein erstklassiges Kundenerlebnis garantieren.

Als Unternehmensnutzer kontrollieren Sie die Transparenz der KI anhand der Modelle, die Sie zur Umsetzung eines gewünschten Ergebnisses bereitstellen. Beispielsweise birgt die Nutzung eines undurchsichtigen Deep-Learning-Modells, das Marketingbilder klassifiziert, ein geringes Risiko. Auf der anderen Seite erfordern Banken, die strengen Auflagen für eine faire Kreditvergabepraxis unterliegen, in hohem Maße transparente KI-Modelle, um eine gerechte Vergabe von Kreditangeboten nachzuweisen.

Verbraucher und Regulierungsbehörden achten verstärkt auf Vertrauenswürdigkeit und Transparenz. Gewinnen werden die Marken, die verantwortungsbewusste KI als Auszeichnung verstehen und die erforderlichen Lösungen implementieren, um sich diese Auszeichnung zu verdienen.