Von „Bitte“ zur KI-Richterin: Höflichkeit, Halluzinationen, KI-Kriegsführung und Revolutionen im KI-Zeitalter

KI und Tech to Go – Episode 18

Wie höflich sollte man zu KI sein?:

• Diskussion über die Verbreitung von Höflichkeitsformen wie „Bitte“ und „Danke“ in der Interaktion mit KI (Umfragen aus den USA und Großbritannien zeigen eine Mehrheit, die dies tut).
• Mögliche Gründe für Höflichkeit: Netiquette, aber auch die scherzhafte Überlegung, dass sich KI in der Zukunft erinnern könnte.
• Die Frage, ob Höflichkeiten den Energieverbrauch von KI beeinflussen. Sam Oldmans scherzhafter Tweet zu zweistelligen Millionenbeträgen.
• Yusufs und Christians persönliche Ansichten zur Höflichkeit gegenüber KI.
• Yusuf argumentiert, dass Höflichkeit den Kontext für Transformermodelle beeinflussen und potenziell bessere Antworten liefern kann. Er teilt seine Erfahrung, wie höfliche und unbestimmte Formulierungen zu mehr Perspektiven in KI-Gesprächen führen.

• Die Auswirkung von „Bitte“ und „Danke“ auf die Token-Anzahl wird als vernachlässigbar für einzelne Nutzer, aber relevant in der Masse betrachtet.

KI Next Top Model:

• Memory-Funktion von Chat GPT: Die Möglichkeit für Chat GPT, sich an frühere Interaktionen zu erinnern.
• Praxistipp: Aufforderung an Chat GPT, eine unverblümte Meinung zur eigenen Person abzugeben. Christians positive Erfahrung damit.
• Die Frage, wie die Memory-Funktion bei gemeinsamen Firmenkonten mit mehreren Nutzern funktioniert.

Neue Sprachmodelle O3 und O4 Mini:

• Berichte über eine deutlich höhere Rate an Halluzinationen im Vergleich zu Vorgängermodellen.
• Negative Erfahrungen und Feedback zur Qualität und Glaubwürdigkeit.
• Spekulationen über Einsparungen beim Testing als mögliche Ursache.
• Die geplante Einstellung von GPT-4 und GPT-4.5 wird kritisiert, da diese Modelle in der Produktion gut funktionieren.
• Mögliche Umstellung auf Gemini als Alternative.
• Diskussion über die menschlich wirkenden Ausflüchte der Modelle bei Falschaussagen.
• Fazit: Aktuell scheinen O3 und O4 Mini weniger empfehlenswert.

Das Problem der Halluzinationen bei Reasoning-Modellen:

• Je mehr Zeit die Modelle haben, desto eher können sie sich „verheddern“.
• Die Notwendigkeit von Qualitätssicherungsmaßnahmen wie „Quality Bots“, um die Ergebnisse zu validieren.
• Bedeutung der menschlichen Überprüfung in sensiblen Bereichen und bei kritischen Entscheidungen.
• Verwendung „dummer“ Modelle für einfache Entscheidungsprozesse, um Überinterpretation zu vermeiden.
• Generelle Kritik an der unkritischen Übernahme von KI-Output.

KI Videomodell Avatar FX von Character AI:

• Vorstellung eines KI-Modells zur Erstellung lebensechter Avatare und zur Animation von Bildern in verschiedenen Stilen.
• Das Potenzial, Prozesse zu beschleunigen, für die bisher aufwendige Produktionen nötig waren.
• Diskussion über die Auswirkungen auf die Animationsbranche.
• Spekulationen über mögliche zukünftige Anwendungen, insbesondere im Bereich Pornografie.
• Vergleich mit Science-Fiction-Szenarien (Hologramme, imaginäre Freunde werden Realität).
• Die Kombination mit Memory-Funktionen könnte zu einer Art persönlicher Beziehung zu KI-Avataren führen.

Grock von XAI kann sehen:

• Neues Feature ermöglicht es Grock, Fragen zu Dingen zu beantworten, die mit der Kamera aufgenommen wurden.
• Weitere neue Features: mehrsprachiges Audio, Echtzeitsuche im Sprachmodus, Memory-Komponente.
• Christian und Yusuf haben es noch nicht getestet; Yusufs Vorbehalte gegenüber XAI.

Infrastruktur und Rechenzentren:

• Meldung über verzögerte oder pausierte Investitionen in die KI-Infrastruktur bei Amazon Web Services (AWS), ähnlich früheren Berichten über Microsoft.
• Dementi von AWS, das aber leicht „schnippisch“ wirkt.
• Hintergrundinformationen über Probleme mit der Blackwell-Plattform bei AWS und Beschwerden von Startups wie Loverable.
• Mögliche Kapazitätsengpässe oder Performance-Probleme.
• Auswirkungen der US-Zollpolitik und geopolitischer Spannungen (insbesondere mit China) auf die Lieferketten wichtiger Komponenten (GPUs, Server, Netzwerkinfrastruktur).
• Unsicherheit und Wartepositionen bei Big Techs aufgrund der unklaren politischen Lage.
• Vorstellung von Flex Processing bei OpenAI, einer Option für günstigere, aber zeitverzögerte KI-Anfragen, sinnvoll für Entwicklungsumgebungen.
• Diskussion über die ökonomische und ökologische Sinnhaftigkeit von Preisschildern für KI-Nutzung.
• Die Erwartung, dass Preis in Zukunft ein entscheidender Faktor wird, wenn ein „Good Enough“-Status erreicht ist.

KI in Aktion:

KI-gesteuerte Drohnen gewinnen Rennen in Abu Dhabi:

• Bedeutung dieses Fortschritts für autonom fliegende Drohnen und deren Anwendungen in Kriegsführung, Katastrophenschutz und Logistik.
• Ethische Bedenken hinsichtlich autonomer Waffensysteme.

KI in der NATO:

• Einsatz des Maven Smart System (MSS Neto) von Palantier zur Echtzeit-Verarbeitung und Zusammenführung von Informationen aus verschiedenen Quellen im Krieg.
• Grundsätzlich positive Idee, aber Kritik an der Abhängigkeit von US-amerikanischer Technologie und Unternehmen wie Palantier aufgrund geopolitischer Unsicherheiten und deren Nähe zu politischen Akteuren.

KI in den Vereinigten Arabischen Emiraten für Gesetzgebung:

• Einsatz von KI zur Unterstützung bei Entscheidungen über Gesetze, deren Formulierung und Durchsetzung.
• Potenzial für schnellere und fundiertere Entscheidungen, aber auch Skepsis, ob KI bessere „Politiker“ ist.

KI in der Justiz:

• Die Idee von KI als Richter und die mögliche Reduzierung von „Noise“ (zufälligen Fehlern) im Vergleich zu menschlichen Richtern (Verweis auf das Buch „Noise“ von Daniel Kahneman).
• „Bias“ (systematische Fehler) bleibt jedoch eine Herausforderung.
• Scherzhafter Ausblick auf „Judge Dread“.

Hashtags:

#KIHöflichkeit #ChatGPTMemory #KINextTopmodel #GPT4o3 #GPT4o4Mini
#KIHalluzinationen #GPT4Punkt5 #AvatarFX #Xai #KIInfrastruktur #FlexProcessing #KIDrohnenrennen #KIAntonomeKriegsführung #NATO
#KIGesetzgebung #Noise #KIundTechToGo

Quellen:

• KI Höflichkeit: 
• GPT4 o3 Halluzinationen:
• KI in der NATO: 
• KI im Staat:
• KI Drohnenrennen: