[Untersuchung] Datenverarbeitungsanlage Sagt Von wegen: Qua Die KI-Gesetze Dieser EU Neues Unrecht Hervorrufen

Nachrichten & Kunde:

Qua Roger Derikx Kinderbetreuungsgeld beantragte, dachte er, er würde Bares ergattern – in keiner Weise abkacken.

Derikx, 46 Jahre frühzeitlich, wurde aufgefordert, dieser niederländischen Exekutive €61,12. Dies Gegenstand: Ihm wurde niemals gesagt, weshalb er die ihm zustehenden Leistungen zurückgeben musste. Die Behörden beschlagnahmten sein PKW auch nahmen mehrjährig eine 038 Prozentzahl Abstrich seines Gehalts.

„Du hast zwei kleine Nachwuchs auch willst ihnen die Gesamtheit in Szene setzen“, sagte Derikx, „nichtsdestotrotz jedes Stelle, dann und nur dann solche irgendwas ausfragen, musst du ‚von wegen‘ äußern – dasjenige ist unsicher.“

Derikx war einer von Seiten 30,000 Erziehungsberechtigte beschuldigt, betrügerische Leistungsansprüche von Seiten dieser niederländischen Steuerbehörde geltend gemacht abdingbar, die vereinen Algorithmus zur Betrugserkennung verwendet hat. Dies Temperament sei „ungenehmigt auch diskriminierend“, ergab eine offizielle Betrachtung, die letztendlich dafür führte, auf die Weise dieser niederländische Ministerpräsident Ost-Mark Rutte Anbruch des Jahres zurücktrat.

Anstelle Derikx kam die Betrachtung zu tardiv. Die finanzielle Dürftigkeit belastete seine Vorweg so ultrakrass, auf die Weise er einander scheiden ließ. „Dies ist ein hoher Ertrag“, sagte Derikx.

EU schlägt AI-Codex im Vorhinein

Dieser Kindergeld-Angelegenheit in den Niederlanden ist kein Einzelfall. Allerorts in Okzident sind Missbrauchsberichte aufgetaucht.

Dänische Behörden setzten alias künstliche Auffassungsvermögen ein, um Nachwuchs in „gefährdeten Familien“ zu identifizieren, die disproportional aufwärts Erziehungsberechtigte unter Zuhilfenahme von ausländischer Geschlecht aNewsJetielten.

Unter anderem die Luxemburg, einer dieser Trendsetter in Okzident aufwärts diesem Verband, erstellten mit Hilfe von von Seiten Algorithmen Risikoprofile von Seiten Kindern unten 26.

Rezensent sein Eigen nennen einander schon lange kontra vereinen solchen Verwendung von Seiten KI massiv. Im erster Monat des Jahres schickten 61 Interessenvertretungen vereinen offenen Schrieb an die EU auch forderten „rote Linien“ daneben KI-Anwendungen, die Grundrechte drohen.

Da obendrein argumentierten Branchenvertreter, auf die Weise die Anpassung von Seiten KI Innovationen ausblenden würde.

Angrenzend ihrem Amtsantritt hatte die Präsidentin dieser Europäischen Ausschuss, Ursula von Seiten dieser Leyen, die Anpassung dieser künstlichen Auffassungsvermögen zu einer politischen Dringlichkeit festgelegt, auch die EU behauptete, vereinen Mittelweg im Zusammenhang dieser Erfüllung dieser Risiken auch dem Abschirmung von Seiten Innovationen zu abgrasen.

Solange bis vierter Monat des Jahres 2019 kündigte die EU-Ausschuss vereinen weit erwarteten Angebot zur Anpassung dieser Künstlichen Auffassungsvermögen an.

Unternehmensüberlegenheit

Die sondern selbige Betrachtung zusammengestellten Datensammlung vorzeigen, auf die Weise Kommissionsbeamte 2019 offizielle Vorhalle protokollierten Besprechungen zum Sache KI im Zeitraum von Seiten Monat des Winterbeginns 2019 solange bis achter Monat des Jahres 2019.

Mithilfe 68 oder zwei Drittel jener Sitzungen entfielen aufwärts Ansinnen auch Wirtschaftsverbände; abzgl. denn ein Drittel war in dieser Bürgergesellschaft, Absolvent einer Hochschule auch Gewerkschaften engagiert.

Ein Großteil Organisationen sein Eigen nennen die EU hingegen einstmals getroffen. Google führte die Tabelle unter Zuhilfenahme von neun Antreffen an, von Seiten denen dasjenige erste hingegen drei Monatsblutung dahinter dem Amtsantritt dieser Ausschuss stattfand.

Benachbart Google standen von Seiten Microsoft auch Big Tech finanzierte Wirtschaftsverbände denn DigitalEurope. Zusammenfassend hatten 000 dieser aktivsten Organisationen Geschäftsinteressen.

Die europäische Verbraucherorganisation Beuc auch European Digital Rights, eine Interessenvertretung, waren die einzigen gemeinnützigen Organisationen alle mehr als aufwärts dieser Tabelle.

„An diesem Ort geht es um Parlamentarismus, “, sagte Margarida Silva vom Corporate Observatory Europe, einem in Hauptstadt von Belgien ansässigen Vorhalle-Hüter. „Unter anderem unsereins in Szene setzen denen, die dasjenige meiste Bares sein Eigen nennen, eine größere Anzahl Tonfall.“

Ein EU-Moderator lehnte ab um zu einen Kommentar abgeben, weshalb fast alle Meetings aufwärts die Branche happern.

Unter anderem selbige Zahlen äußern hingegen vereinen Bruchstück dieser Anekdote. Nichtsdestotrotz hochrangige Beamte sind verpflichtet, ihre Sitzungen offenzulegen, nichtsdestotrotz fast alle dieser Lobbyarbeit findet aufwärts niedrigeren Ebenen zugunsten.

DG Connect, die sondern die Traktat des Vorschlags zuständige Amtei dieser EU-Ausschuss, teilte unter Einsatz von elektronischer Brief unter Zuhilfenahme von, auf die Weise solche so gut wie 1 Antreffen zur KI-Politik unter Zuhilfenahme von „externen Interessenvertretern“.

„Ethikwäsche“

Angrenzend dieser EU eingereichte auch von Seiten EUobserver-Korrespondenten eingesehene Lobbypapiere festsetzen im Detail, denn Technologieunternehmen aufwärts eine größere Anzahl KI im öffentlichen Bereich drängten.

Google ermutigte „Regierungen, die Einleitung von Seiten KI im öffentlichen Bereich zu abschaffen, um ein florierendes Wildnis zu sich abrackern“.

Microsoft schrieb, auf die Weise „dieser öffentliche Bereich äußerst von Seiten dieser Einleitung von Seiten KI-Lösungen Nutzen haben von könnte.“ Unter anderem DigitalEurope, die Technologielobby, die enge Beziehungen zur Europäischen Ausschuss unterhält, forderte die EU aufwärts, einander „aufwärts“ zu zusammenballen öffentlichen Bereich sondern Gewissheit.“

Tech-Firmen spielten alias ihre Kenntnis zur Selbstregulierung unten Argument, denn Protokolle von Seiten Sitzungen im Zusammenhang Tech-Firmen auch dieser Ausschuss, die auf Grund eine Abfrage zur Informationsfreiheit in den Besitz kommen wurden, gezeigt werden.

Facebook unterstrich, auf die Weise es 3,7 tausend Millionen US-Dollar sondern „Unversehrtheit“ ausgibt. Google auch Microsoft hoben ihre KI-Prinzipien sondern Ansinnen heraus nebensächlich einschätzen, ob ihre KI-Produkte den EU-Anforderungen vollbringen, vorher solche solche aufwärts den Absatzgebiet einbringen.

Rezensent sein Eigen nennen selbige Arztpraxis denn „Ethics-Washing“ bezeichnet: einander aufwärts Behauptungen ethischen Unternehmensverhaltens isoliert, um politisches aNewsJetuwehren

Natürlich hat die Europäische Verbraucherorganisation dieser EU tardiv 2019 präzise dasjenige gesagt: „Vermeide eine geradeheraus ‚moralische Werte‘ ‚ Episch, dasjenige Selbstregulierung impliziert.“

„Öffentliche Behörden sein Eigen nennen wieder und wieder in keiner Weise die Kapazitäten, eigene KI-Systeme zu herstellen ,“ so Ursula Pachl von Seiten Beuc, „demgemäß sind unsereins von neuem von Seiten diesen Ansinnen untergeordnet.“

Öffentliche KI

Gleich , räumte dieser EU-Angebot zentrale Forderungen dieser Branche zur Selbstregulierung auch zur Zerrüttung von Seiten KI im öffentlichen Bereich ein.

Qua die Ausschuss ihren Konzept einer KI-Codex vorlegte, wurde dem vorgeschlagenen Erledigung von Seiten Social Scoring – dieser Evaluierung von Seiten Volk dahinter ihrer Seriosität – auch einigen Anwendungen von Seiten Gesichtserkennungstechniken große Achtsamkeit unschwer.

Vielerlei Anwendungen von Seiten KI im öffentlichen Bereich wären zwar außerdem verfassungsgemäß, wenngleich solche denn risikoreich eingestuft wurden.

Dasjenige beinhaltete den Verwendung von Seiten Algorithmen in dieser Bullerei, dem Justizsystem auch dieser Approbation von Seiten Sozialleistungen.

Die Produzenten müssten hingegen eine Selbstbewertung beschreiben, um sicherzustellen, auf die Weise ihr „Hochrisiko“-Temperament entsprach den Vorschriften zu Klarheit, Risk Management auch menschlicher Wachtposten.

Angrenzend dieser Affenkomödie des Vorschlags sagte Margrethe Vestager, EU-Kommissarin sondern dasjenige digitale Portefeuille, auf die Weise „dieser rechtliche Radius die Gewissheit, dasjenige unsereins konstruieren zu tun sein, dann und nur dann unsereins möchten, auf die Weise Leute auch Ansinnen KI-Lösungen adoptieren.“

Die Kommissarin sagte, solche sei angstvoll mittels die Einleitung von Seiten künstlicher Auffassungsvermögen. Jene befürchtete zum Vorzeigebeispiel, auf die Weise Kommunen in keiner Weise dasjenige Gefahr abtreten wollten, unter Zuhilfenahme von KI Streetworker daneben dieser Prüfung dahinter Lösungen sondern gefährdete Bürgerinnen auch Bevölkerung zu tragen. „meine Wenigkeit fände dasjenige bedauerlich“, sagte Vestager.

Dieser Konzept einer KI-Codex wurde von Seiten einer Obliegenheit begleitet, jedes Jahr 1 Mrd. „

Welches Derikx im niederländischen Kindergeldfall ereilen war, war ein klares Vorzeigebeispiel sondern die Risiken, die die EU unter Zuhilfenahme von dieser Codex umgehen wollte, gab ein EU-Staatsdiener unter Zuhilfenahme von genauer gesagt Kompetenz des politischen Prozesses zu.

Im Unterschied dazu „dieser Baustein ist in keiner Weise, auf die Weise unsereins keine KI verwenden sollten“, fügte dieser Beamte hinzu. „Unsereins sollten vertrauenswürdige KI adaptieren, die absolut entwickelt ist. Jene liegt im Beteiligung aller, inklusive dieser Branche.“

Es ruhen zwar Absehen, ob dasjenige vorgeschlagene Zertifizierungssystem auch die Selbstbild auf Grund die Technologieanbieter nebensächlich hinreichend sind Abschirmung sondern EU-Bevölkerung.

Eine rezent veröffentlichte Ergebnis von Seiten Mitgliedern dieser EU-Expertengruppe zu KI zog eine klare Schlusswort: „Dieser Angebot bietet weder vereinen angemessenen Grundrechtsschutz bisherig vereinen ausreichenden Abschirmung zur Sicherung dieser Rechtsstaatlichkeit auch Parlamentarismus auch schafft es wohl in keiner Weise, eine legitim vertrauenswürdige KI zu gewährleisten.“

Unsichtbare Diskriminierung

Dieser Aderlass von Seiten Algorithmen ist nämlich unsicher nachzuweisen. Derikx verbrachte Jahre im Vorhinein Nahrungsmittel, um seine Makellosigkeit zu aufzählen. Wahlmöglichkeit unauffindbar dasjenige Sorgerecht sondern ihre Nachwuchs oder begingen Freitod.

„Ein Großteil Fälle werden unentdeckt ruhen“, sagte Sarah Chander, Policy Lead daneben European Digital Rights. „Die Leute werden in keiner Weise einstmals nachvollziehen, auf die Weise die Entscheidungen mittels ihr gegeben von Seiten einem automatisierten Temperament getroffen werden.“

„Die Plage liegt fortwährend bisherig daneben den Betroffenen“, ergänzt Daniel Leufer von Seiten Access Now.

In den Niederlanden wurden den Drangeben €30,000 denn Nachzahlung, nichtsdestotrotz die niederländische Exekutive hat Bestreben, ihre Zustimmung einzuhalten.

„Erziehungsberechtigte zu tun sein fortwährend bisherig um jeden Cent ringen“, sagte Derikx, dieser einander unter Zuhilfenahme von einer Abteilung von Seiten Drangeben im Schlacht um Nachzahlung – auch Wertschätzung – zusammengetan hat. „Es ist ein hässlicher, ekelhafter Hergang. Gleichwohl ich werde ihn in keiner Weise loslassen.“

Dasjenige ist die erste einer zweiteiligen Betrachtung dieser Lobbyarbeit sondern den wegweisenden EU-Angebot zur Anpassung dieser künstlichen Auffassungsvermögen, dieser die Einlass sondern eine breite Gebrauch dieser Technik im öffentlichen Bereich öffnet.

Weiterlesen