Bewusstsein Compliance und Gesetzgebung Ethik Verteidigung & Regierung

Parlament fordert Verbot von generativer KI in der Primarstufe

Das niederländische Unterhaus (Tweede Kamer) fordert ein Verbot von generativer KI an Grundschulen. Ein entsprechender Antrag der Partei Volt wurde unter anderem vom CDA, D66, 50Plus, ChristenUnie, JA21, DENK, PvdD, PRO und der SP mitunterzeichnet. Der Antrag wurde gestern während der Haushaltsdebatte des Bildungsministeriums eingebracht. Laut dem Volt-Abgeordneten Dassen entwickeln junge Schüler ihr kritisches Denkvermögen, […]

Bewusstsein Ethik Risikomanagement

Mensch in der Maschine und die Herausforderung, KI unter Kontrolle zu halten

VPRO Tegenlicht beleuchtet in der Folge „Mensch in der Maschine“ einen fundamentalen Wandel. Dem Programm zufolge wird Software nicht länger geschrieben, sondern durch Testen erzogen. Künstliche neuronale Netze sind vom menschlichen Gehirn inspiriert und erlernen komplexe Aufgaben durch Versuch und Irrtum, vergleichbar damit, wie Kinder lernen. Das Problem bei der Steuerung von KI entsteht der […]

Ethik Geschäftsmodelle KI Technologie

2036: Wenn KI alle Jobs hat und Menschen zur Energiequelle werden

Ein dystopischer Kurzfilm entwirft das Jahr 2036, in dem KI praktisch alle menschliche Arbeit übernommen hat und die Gesellschaft nach einem neuen Zweck für Menschen sucht. Elon Musk, Jeff Bezos und Sam Altman werden als gealterte Tech-Mogule dargestellt, die eine bizarre Lösung propagieren: Fitnessstudios, die menschlichen Schweiß und körperliche Anstrengung in Energie für KI umwandeln. […]

Cybersicherheit Datenschutz Ethik KI

KI-Überwachung: Personensuche durch die Polizei anhand von Beschreibungen

Flock Safety ermöglicht es der Polizei, Kameramaterial kontinuierlich mittels KI nach Personen zu durchsuchen, die einer schriftlichen Beschreibung, wie Kleidung, Farbe oder Objekten, entsprechen. WIRED rekonstruierte die Benutzeroberfläche und stellte fest, dass Beamte Geofencing-Bereiche festlegen und automatische Benachrichtigungen erhalten können, sobald die KI eine potenzielle Übereinstimmung erkennt. Obwohl Flock neue Kontrollen einführt, wie Fallcodes, kürzere […]

Datenschutz DSGVO Ethik KI

Wenn der Algorithmus zum Chef wird: Uber-Fahrer ziehen wegen KI vor Gericht

Rund 241.000 Uber-Fahrer in ganz Europa und dem Vereinigten Königreich werden in einer wegweisenden Sammelklage vertreten, die in Amsterdam wegen KI-gesteuerter Bezahlung und Auftragszuteilung eingereicht wurde. Die Fahrer behaupten, dass der undurchsichtige Algorithmus von Uber ihr Verhalten profiliert, um den niedrigsten Fahrpreis zu ermitteln, den ein einzelner Fahrer akzeptieren könnte, was potenziell zu unterschiedlicher Bezahlung […]

Datenschutz Ethik Niederländischer Verbraucherschutzbund Personenbezogene Daten Überwachung

Gesichtserkennung macht unschuldigen Kunden zum Verdächtigen

Die Supermarktkette Sainsbury’s hat erneut einen folgenschweren Fehler mit ihrer Gesichtserkennungssoftware begangen. Ein unschuldiger Kunde wurde fälschlicherweise als Ladendieb identifiziert, woraufhin er öffentlich des Supermarktes verwiesen wurde und seinen Einkauf nicht mehr bezahlen durfte. Obwohl Sainsbury’s den Fehler nachträglich einräumte und eine Entschädigung von 150 £ anbot – die der Kunde umgehend an eine Tafel […]

Compliance und Gesetzgebung Ethik KI

AI-Transparenz in den Nachrichten: Ein einfaches Label reicht nicht aus

Neue Untersuchungen zeigen, dass Leser ein Bedürfnis nach klaren, sichtbaren und detaillierten Angaben haben, wenn KI im Journalismus eingesetzt wird. Ein generisches Label „KI-generiert“ reicht nicht aus. Das Publikum möchte genau wissen, wie die Technologie eingesetzt wurde: Handelte es sich um eine leichte Schlussredaktion oder wurde der gesamte Artikel oder das zugehörige Bild von einer […]

Datenschutz Ethik KI

AI Act ab sofort in Kraft: Transparenz, Verantwortlichkeit und menschliche Aufsicht

Seit dem 2. August gelten die ersten Transparenzpflichten aus dem europäischen AI Act. In Met het Oog op Morgen erklärt Tech-Experte Bert Hubert anschaulich, dass Organisationen für den Einsatz von KI verantwortlich bleiben – man kann sich nicht hinter der Aussage „die KI war es“ verstecken. Auch KI in Bewerbungsverfahren darf nicht zu vollständig automatisierten […]