KI-Transparenz

1. Worum es hier geht

Unsere Bewerbungsmanagement-Software analysiert Bewerbungsunterlagen mit Hilfe künstlicher Intelligenz und unterstützt Unternehmen dabei, passende Kandidatinnen und Kandidaten zu finden. Weil solche Systeme über berufliche Chancen von Menschen mitentscheiden, legen wir hier offen, was die KI tut, was sie nicht tut und wer wofür verantwortlich ist.

2. Einstufung und Rollen

KI-Systeme, die bei der Auswahl oder Bewertung von Bewerbungen eingesetzt werden, zählt Anhang III Nr. 4 der KI-Verordnung zu den Hochrisiko-KI-Systemen. Daraus ergibt sich eine klare Rollenverteilung:

• Anbieter ist Remstal Software GmbH. Wir entwickeln das System, stellen es bereit und liefern die technische Dokumentation sowie eine Betriebsanleitung mit.
• Betreiber ist das nutzende Unternehmen. Es entscheidet, für welche Stellen das System eingesetzt wird, und trägt die Verantwortung für die daraus abgeleiteten Personalentscheidungen.

3. Was das System tut

• Es liest Bewerbungsunterlagen aus und strukturiert deren Inhalte (z. B. Qualifikationen, Berufserfahrung, Kenntnisse).
• Es vergleicht diese Angaben mit den Anforderungen der jeweiligen Stellenausschreibung.
• Es erzeugt daraus eine Rangfolge sowie eine nachvollziehbare Begründung je Kandidat.
• Es unterstützt bei der Bewerberkommunikation, etwa durch Textvorschläge für Einladungen oder Absagen.

4. Was das System nicht tut

• Es trifft keine eigenständigen Einstellungs- oder Absageentscheidungen. Ergebnisse sind Vorschläge; die Entscheidung trifft immer ein Mensch.
• Es nimmt keine Emotionserkennung und keine biometrische Kategorisierung vor. Solche Praktiken sind im Beschäftigungskontext nach Art. 5 der KI-Verordnung verboten und in unserem System nicht angelegt.
• Es leitet keine Persönlichkeitsprofile und keine Aussagen über Gesundheit, Herkunft, Religion, politische Einstellung oder sexuelle Orientierung ab.
• Es verwendet Kundendaten nicht zum Training von KI-Modellen.

5. Menschliche Aufsicht (Art. 14 KI-VO)

Das System ist so gestaltet, dass Menschen die Ergebnisse prüfen und übersteuern können:

• Jedes Ranking wird mit einer Begründung ausgegeben, die die ausschlaggebenden Kriterien benennt.
• Bewertungen lassen sich manuell korrigieren; die ursprüngliche und die geänderte Bewertung bleiben nachvollziehbar.
• Aufsichtsführende Personen können einzelne Kandidaten unabhängig vom Ranking weiterverfolgen oder ausschließen.
• Relevante Vorgänge werden protokolliert, sodass Auswahlprozesse im Nachhinein überprüfbar sind.

6. Genauigkeit, Robustheit und Diskriminierungsschutz

• Vor der Übertragung an KI-Modelle ersetzen wir direkte Identifikatoren durch Token (Pseudonymisierung).
• Merkmale, die nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) geschützt sind, sollen die Bewertung nicht beeinflussen. Wir prüfen Ergebnisse regelmäßig auf systematische Verzerrungen und passen das System bei Auffälligkeiten an.
• KI-Ergebnisse können fehlerhaft sein. Das System ist deshalb als Entscheidungshilfe konzipiert und nicht als Ersatz für die fachliche Beurteilung.

7. Pflichten der Betreiber

Unternehmen, die unsere Software einsetzen, treffen nach der KI-Verordnung eigene Pflichten. Die wichtigsten:

• Das System entsprechend der mitgelieferten Betriebsanleitung verwenden (Art. 26 Abs. 1 KI-VO).
• Die menschliche Aufsicht Personen übertragen, die dafür fachlich geeignet und geschult sind (Art. 26 Abs. 2 KI-VO).
• Beschäftigte und ihre Vertretungen vor der Inbetriebnahme am Arbeitsplatz informieren (Art. 26 Abs. 7 KI-VO). Mitbestimmungsrechte des Betriebsrats bleiben unberührt.
• Betroffene Personen darüber informieren, dass ein Hochrisiko-KI-System bei sie betreffenden Entscheidungen eingesetzt wird (Art. 26 Abs. 11 KI-VO).
• Für ausreichende KI-Kompetenz der eingesetzten Personen sorgen (Art. 4 KI-VO).
• Die automatisch erzeugten Protokolle aufbewahren (Art. 26 Abs. 6 KI-VO).

Die dafür erforderlichen Informationen und Vorlagen stellen wir unseren Kunden im Rahmen der Betriebsanleitung zur Verfügung.

8. Rechte von Bewerberinnen und Bewerbern

Haben Sie sich bei einem Unternehmen beworben, das unsere Software einsetzt, stehen Ihnen insbesondere folgende Rechte zu:

• Auskunft darüber, ob und wie ein KI-System bei der Bewertung Ihrer Bewerbung eingesetzt wurde (Art. 26 Abs. 11 KI-VO, Art. 15 DSGVO).
• Erläuterung der Rolle des KI-Systems bei einer Sie betreffenden Entscheidung (Art. 86 KI-VO).
• Die Rechte aus Art. 15 bis 21 DSGVO, insbesondere Auskunft, Berichtigung, Löschung und Widerspruch.
• Beschwerde bei einer Datenschutz-Aufsichtsbehörde oder der zuständigen Marktüberwachungsbehörde.

Wichtig: Für Ihre Bewerbung ist das Unternehmen verantwortlich, bei dem Sie sich beworben haben, nicht wir. Wir verarbeiten Bewerberdaten ausschließlich als Auftragsverarbeiter im Auftrag dieses Unternehmens. Bitte richten Sie Anfragen deshalb zunächst dorthin. Selbstverständlich unterstützen wir unsere Kunden bei der Beantwortung.

9. Kennzeichnung KI-generierter Inhalte

Texte, die unser System erzeugt, etwa Vorschläge für Einladungen oder Absagen, werden in der Anwendung als KI-generiert gekennzeichnet, bevor sie versendet werden können. So bleibt für die bearbeitende Person jederzeit erkennbar, welche Inhalte maschinell entstanden sind.

10. Eingesetzte KI-Modelle

Wir setzen KI-Modelle von Microsoft Azure, OpenAI und Anthropic ein. Welche Anbieter wir in welcher Rolle einbinden, welche Garantien für Drittlandtransfers gelten und wie die Auftragsverarbeitung geregelt ist, finden Sie in unserer Datenschutzerklärung sowie im Auftragsverarbeitungsvertrag.

11. Kontakt und Hinweise

Fragen zum KI-Einsatz, Hinweise auf mögliche Fehlfunktionen oder Beschwerden über Ergebnisse richten Sie bitte an info@remstalsoftware.de. Wir gehen jedem Hinweis nach und informieren betroffene Kunden, sofern sich ein Risiko für Rechte oder Sicherheit von Personen ergibt.