Technologische Neuigkeiten, Bewertungen und Tipps!

New York verabschiedet strenges Gesetz für Unternehmen, die mit KI einstellen

Hinweis: Der folgende Artikel hilft Ihnen weiter: New York verabschiedet strenges Gesetz für Unternehmen, die mit KI einstellen

Für Unternehmen in New York City heißt es in einem neuen Gesetz, dass sie nachweisen müssen, dass alle in ihrem Einstellungsprozess verwendeten KI-Tools frei von Rassismus und Sexismus sind.

Die Bedenken hinsichtlich der Daten, auf denen diese Art von KI-Software – bekannt als Automatic Employment Decision Tool (AEDT) – trainiert wird, nehmen stetig zu. Nun muss es eine Prüfung durch Dritte bestehen.

Das Urteil tritt am Mittwoch, den 12. Juli, in Kraft und gilt als das erste seiner Art. KI könnte sich einschleichen jeden Aspekt des Arbeitslebensaber jetzt sehen wir eine strengere Forderung nach Rechenschaftspflicht.

Unternehmen, die die Software nutzen, müssen transparent sein

AEDTs haben sich aufgrund der großen Anzahl an Bewerbern, die Unternehmen pro Stellenanzeige erhalten, schnell zu einem beliebten Instrument im Rekrutierungsprozess entwickelt.

„Im Zeitalter des Internets ist es viel einfacher, sich auf eine Stelle zu bewerben, und es gibt Tools für Kandidaten, mit denen sie diesen Prozess optimieren können. Geben Sie uns Ihren Lebenslauf und wir bewerben uns auf 400 Stellen. [Businesses] bekomme einfach zu viele Bewerbungen. Sie müssen die Liste irgendwie aussortieren, also erledigen diese Algorithmen das für sie.“ – Cathay O’Neil, CEO des Beratungsunternehmens Orcaa

Studien haben jedoch gezeigt, dass KI-Programme im Allgemeinen Rassismus, Sexismus und andere Vorurteile aufweisen können. Dies hat verständlicherweise zu Forderungen nach einer Untersuchung der Frage geführt, ob potenzielle Stellenbewerber zu Unrecht ausgeschlossen werden.

Der neues Gesetz besagt, dass Unternehmen, die mit diesen Rekrutierungstools arbeiten, diese prüfen lassen müssen, sonst würden sie sie illegal nutzen. Darüber hinaus müssen sie die Ergebnisse der Audits veröffentlichen, um vollständige Transparenz zu gewährleisten.

Das New Yorker Ministerium für Verbraucher- und Arbeitnehmerschutz wird für die Durchsetzung des Gesetzes und die Untersuchung von Beschwerden über Unternehmensverstöße zuständig sein. Es ist jedoch noch nicht bekannt, wie und in welchem ​​Umfang.

Die Regulierung von KI-Tools nimmt zu

Unternehmen auf der ganzen Welt versuchen herauszufinden, welche KI-Tools für sie von Vorteil sind. Ihre Verwendung wird jedoch nicht ohne Regulierung bleiben. Wir haben bereits gesehen, welche Auswirkungen das hat, was passiert Rechtsbereich wenn ChatGPT gebeten wird, zur Forschung beizutragen. Spoiler-Alarm: Bußgelder und rote Gesichter.

Darüber hinaus gibt es Plagiat Und Internet-Sicherheit Themen. All diese Unbekannten haben dazu geführt, dass Führungskräfte von Technologieunternehmen und Bundesgesetzgeber eine Regulierung fordern.

Obwohl wir noch nicht wissen, wie das aussehen könnte, ist es wichtig zu beachten, dass Italien ChatGPT vorübergehend blockiert wegen möglicher Verstöße gegen die Datenschutzgesetze der Europäischen Union.

Dieser Schritt ist ein Fortschritt, aber nicht narrensicher

Obwohl das neue Gesetz im Allgemeinen von Arbeitnehmern und Aufsichtsbehörden gut aufgenommen wurde, ist es nicht ohne Mängel. Es bestehen weiterhin Lücken in den Prüfungsanforderungen, die Diskriminierung aufgrund einer Behinderung oder des Alters betreffen.

Darüber hinaus gibt es keine konkreten Belege dafür, dass sich die KI-Tools bei der Auswahl potenzieller Mitarbeiter besonders gut eignen. Es geht vielmehr darum, das Bewerbungsvolumen zu reduzieren.

Während die Audits also dazu beitragen werden, Verzerrungen zu reduzieren, bleibt die Frage offen, ob die Tools vor einer breiten Anwendung noch weiter verfeinert werden müssen.