• Für HR & Admins
      • So gehst du mit einer Sicherheitsprüfung für Lieferanten oder Dienstleister um
      • Welche Sicherheits- und Datenschutzdokumentation OpenUp bereitstellen kann
      • Wie setzt OpenUp KI verantwortungsvoll ein?
  • Für Mitarbeitende & Nutzer*innen

Powered by Skillset

Powered by Skillset

  1. Start
  2. /Für HR & Admins
  3. /Sicherheit & Compliance

Wie setzt OpenUp KI verantwortungsvoll ein?

Aktualisiert vor 4 Tagen

OpenUp setzt KI in klar definierten, begrenzten Bereichen ein. Unsere KI-gestützten Funktionen sind dafür gedacht, dich zu begleiten, nicht dich zu behandeln. Hier findest du einen Überblick für HR-, Security- und Einkaufsteams.

Wie KI bei OpenUp eingesetzt wird

KI unterstützt Mitarbeitende dabei, zu reflektieren, passende Inhalte zu finden und mit der richtigen Expertin in Kontakt zu kommen. Sie stellt keine Diagnosen, gibt keine klinischen Ratschläge, ersetzt keine Expertin und teilt keine Gespräche mit dem Arbeitgeber. Jede neue KI-Anwendung wird vor dem Start auf Datenschutz und Sicherheit geprüft. Unsere Informationssicherheit ist DSGVO-konform und nach ISO 27001 und NEN 7510 zertifiziert.

Die ausführliche Beschreibung, wie wir KI verantwortungsvoll einsetzen, findest du hier:

https://openup.com/our-vision-for-responsible-ai-use/

Können Arbeitgeber oder Führungskräfte Gespräche mit der KI-Begleitung für dein Wohlbefinden sehen?

Nein, niemals. Organisationen erhalten nur anonymisierte, aggregierte Erkenntnisse, niemals einzelne Gespräche, die sich auf einen Mitarbeitenden zurückführen lassen.

Werden Nutzer- oder Kundendaten genutzt, um die KI-Begleitung für dein Wohlbefinden zu trainieren, feinzutunen oder zu verbessern?

Nein. Nutzerdaten sind vertraglich vom Modelltraining ausgeschlossen. Wir trainieren oder tunen kein Modell mit Nutzerdaten. Gemäß unserer Vereinbarung mit Microsoft Azure werden Daten, die an die API gesendet werden, nicht zur Verbesserung von OpenAI-Modellen verwendet.

Ausgewählte anonymisierte Chatverläufe können während der Beta-Phase intern geprüft werden, um Prompts und Empfehlungen zu verbessern. Das geschieht ausschließlich intern und hat nichts mit Modelltraining zu tun.

Wo werden KI-verarbeitete Daten gespeichert und verarbeitet?

Alle Daten werden derzeit innerhalb der EU gespeichert und verarbeitet (Microsoft Azure, Region Schweden). Für die KI-Verarbeitung übertragen wir keine Nutzerdaten außerhalb des EWR.

Welche Drittanbieter liefern die KI-Modelle oder Tools?

Das LLM (GPT-5.3 Chat) wird von OpenAI bereitgestellt und über die EU-Infrastruktur von Microsoft Azure gehostet. Mit Microsoft/Azure besteht ein Auftragsverarbeitungsvertrag (AVV) gemäß Artikel 28 DSGVO. Nach unseren Vertragsbedingungen werden keine Kundendaten für das Modelltraining verwendet, weder von uns noch laut unseren vertraglichen Vereinbarungen vom LLM-Anbieter.

Ist OpenUp konform mit dem EU-KI-Gesetz?

Nach unserer aktuellen Einschätzung ja. Wir verfolgen die schrittweise Umsetzung des KI-Gesetzes und bewerten jede KI-gestützte Funktion einzeln.

  • Nur unterstützend: Unsere KI-gestützten Funktionen werden nicht genutzt, um automatisierte Entscheidungen über Mitarbeitende, ihre Gesundheit, ihre Beschäftigungsfähigkeit, den Zugang zu Unterstützung oder andere Angelegenheiten mit rechtlichen oder ähnlich erheblichen Auswirkungen zu treffen.
  • Keine verbotenen Praktiken: Wir setzen KI weder für manipulative Techniken noch für Social Scoring oder Emotionserkennung am Arbeitsplatz ein.
  • Betreiber, nicht Anbieter: OpenUp agiert als Betreiber KI-gestützter Tools mit vertraglichen und technischen Schutzmaßnahmen und nicht als Anbieter eines KI-Modells für allgemeine Zwecke.
  • Transparenz: Nutzer*innen werden zu Beginn jeder Sitzung mit der KI-Begleitung darüber informiert, dass sie mit einem KI-System interagieren.

Wird klar kommuniziert, wenn Nutzer*innen mit KI interagieren?

Ja. Zu Beginn jedes Gesprächs wird ein KI-Hinweis angezeigt. Nutzerinnen erfahren, dass sie mit einer KI-Begleitung für ihr Wohlbefinden sprechen und nicht mit einer menschlichen Therapeutin. Die Grenzen der KI werden von Anfang an genannt. Damit erfüllen wir die Transparenzpflichten des EU-KI-Gesetzes für KI-Systeme mit begrenztem Risiko.

Was passiert, wenn die KI Krisensignale erkennt?

Die KI-Begleitung hat eine integrierte Notfallerkennung. Wenn Krisensignale (Selbstverletzung, Suizidalität, akute Gefährdung) erkannt werden, zeigt die KI sofort einen Sicherheitshinweis mit Notfallkontakten (112 oder lokale Krisenhotline) und einen direkten Link zur menschlichen 24/7-Hotline für Hilfe an. Die KI versucht nicht, Krisensituationen selbst zu bewältigen.

Wer nimmt die 24/7-Nummer ab, die die KI-Begleitung nennt?

Eine Psychologin. Die Nummer ist die Haupttelefonnummer von OpenUp, die als 24/7-Hotline für Hilfe besetzt ist. Alle Anrufe, Tag und Nacht, werden von Psychologinnen mit einem Masterabschluss in Psychologie, Erfahrung in der Begleitung von Klientinnen und relevanter Ausbildung in Krisenunterstützung beantwortet.
Die Psycholog
in hilft der anrufenden Person dabei, den passenden nächsten Schritt auf der Plattform zu finden oder bei Bedarf weitere Hilfe wie spezialisierte Kriseneinrichtungen oder die Hausarztpraxis. Bei unmittelbarer Gefahr wird die anrufende Person an den Rettungsdienst (112) verwiesen.

Wie können Nutzer*innen ihre Einwilligung zur KI-Verarbeitung widerrufen?

Nutzerinnen können ihre Einwilligung künftig direkt in den Profileinstellungen von MeinOpenUp (meinopenup) verwalten. Daten inaktiver Nutzerinnen werden nach 36 Monaten Inaktivität gelöscht (das bedeutet: kein Login und keine Nutzung in 36 Monaten). Aktive Nutzerinnen mit laufendem Vertrag behalten alle Daten, solange sie sich weiterhin einloggen. Nutzerinnen können jederzeit die Löschung ihrer Daten über [email protected] beantragen.

Video ansehen: So schützt die KI-Begleitung die Privatsphäre von Mitarbeitenden

Unser Supportteam hilft dir gerne weiter.