Ai Bad News

Warum wir bei künstlicher Intelligenz wachsam bleiben müssen

Latest

Blackout durch Blackbox: Gartner warnt vor KI-bedingtem Kollaps kritischer Infrastruktur

**Wirkungsbereich:** Menschen & Gesellschaft --- **TLDR:** Das Analystenhaus Gartner prognostiziert in seinem Report „Predicts 2026: Emergent Critical Risks of AI in CPS Security", dass bis 2028 eine fehlkonfigurierte KI die kritische Infrastruktur eines G20-Landes lahmlegen wird. Die Ursache sind nicht Cyberangriffe, sondern subtile Fehler in sogenannten Cyber-Physical Systems (CPS)

By Roger Basler de Roca

„Gefährliche Fehldiagnosen": Oxford-Studie warnt vor KI als Gesundheitsberater

**Wirkungsbereich:** Medizin & Gesundheit --- **TLDR:** Eine neue Studie der Universität Oxford mit rund 1.300 Teilnehmer:Innen zeigt, dass KI-Chatbots als medizinische Berater:Innen unzuverlässig und potenziell gefährlich sind. Obwohl die getesteten Sprachmodelle isoliert betrachtet in 94,9 % der Fälle die richtige Diagnose stellten, schnitten Nutzer:Innen mit KI-Unterstützung

By Roger Basler de Roca
Gesichtserkennung durch KI: Segen oder Überwachungsfluch?

Gesichtserkennung durch KI: Segen oder Überwachungsfluch?

TLDR: KI-gestützte Gesichtserkennung breitet sich extrem schnell aus, von chinesischer Massenüberwachung, Grenzkontrollen bis zur Smartphone-Entsperrung. Die Technologie verspricht zwar erhöhte Sicherheit und Effizienz, birgt jedoch erhebliche Risiken für Privatsphäre und Bürgerrechte. Trotz Versuchen, die Entwicklung in Europa zu regulieren, schreitet sie unaufhaltsam voran, mit potenziell negativen Folgen für unsere Gesellschaft.

By Roger Basler de Roca
Setzen auch Geheimdienste verstärkt auf KI-Technologien?

Setzen auch Geheimdienste verstärkt auf KI-Technologien?

TLDR: Microsoft hat kürzlich ein spezielles KI-Modell vorgestellt, das auf der fortschrittlichen GPT-4-Technologie basiert und ausschliesslich für den Einsatz durch US-amerikanische Geheimdienste entwickelt wurde. Dieses Modell funktioniert unabhängig von einer Internetverbindung und dient dazu, die Verarbeitung von streng geheimen Informationen zu gewährleisten. Die Nutzung von künstlicher Intelligenz beschränkt sich nicht

By Roger Basler de Roca
Fördert künstliche Intelligenz Diskriminierung, Desinformation und Täuschung?

Fördert künstliche Intelligenz Diskriminierung, Desinformation und Täuschung?

Künstliche Intelligenz (KI) birgt das Risiko, Diskriminierung und Desinformation zu verstärken. Besonders in den letzten Wochen wurden vermehrt Fälle von KI-generierten Fake-Profilen, Robocalls und Deepfakes bekannt – von öffentlichen Persönlichkeiten wie Joe Biden und Taylor Swift bis hin zu alltäglichen Personen ist niemand vor dieser Bedrohung sicher. Diese Entwicklungen haben weltweit

By Roger Basler de Roca