Von KI-Überforderung zur Problemlösung: Open Source, neue Modelle und der Mehrwert in der Praxis
Warum sich viele Unternehmen bei KI-Projekten schwer tun und auch oft scheitern.
Die Themen in dieser Episode:
Update aus der AI Community:
- Vorstellung der seit zwei Jahren bestehenden Community mit diversen Teilnehmern
- Regelmäßiger Austausch über aktuelle KI-Tools und -Projekte
- Diskussion über die Überforderung durch die Geschwindigkeit der KI-Entwicklung
- Anfangs-Euphorie bei der Nutzung von ChatGPT für einfache Aufgaben
- Stillstand in der Projektentwicklung trotz exponentieller Technologieentwicklung
Ziel Herausforderung der KI-Implementierung:
- Beispiel: Automatisierung von Angebotsprozessen mit KI
- Scheitern der Entwicklung durch externe Teams trotz hoher Kosten
- Lösung durch No-Code/Low-Code-Plattform Make, die einen schnellen Prototypen ermöglichte
- Entscheidung, vorhandene Technologien zu nutzen statt eigene zu entwickeln
- Die Angst, durch ständige Neuerungen den Überblick zu verlieren
Der richtige Ansatz:
- Fokus auf das Problem statt auf die Technologie
- Das Problem muss es wert sein, gelöst zu werden und einen Mehrwert generieren
- Das Problem klein machen und Abhängigkeiten entfernen, um schnell loslegen zu können
- Analyse der vorhandenen Datenquellen zur Umsetzung des Problems
- Schrittweise Erhöhung der Komplexität
- Flexibilität bei der Tool-Auswahl je nach Problemstellung
- Nüchterner Ansatz: Tools gezielt für bestimmte Problemstellungen einsetzen
Open Web UI:
- Vorstellung einer Open-Source-Plattform zur Verbindung verschiedener KI-Konnektoren
- Möglichkeit, eigene Modelle lokal laufen zu lassen oder externe APIs zu nutzen
- Nutzung eines Bots für den Zugriff auf verschiedene Modelle
- Steuerung durch Programmierung (Python) möglich
- Eingebautes Retrieval Augmented Generation (RAG) für die Nutzung eigener Datenquellen
- Erklärung des Vektormodells für semantische Suchen und Keyword Matching
- Eigene Funktionen (Python) können integriert werden
- Vielversprechende Technologie, trotz Beta-Status
Neue KI-Modelle und deren Auswirkungen:
- Open AI bietet kostenlos das neue Modell ChatGPT 4o an, nachdem DeepSeek R1 viele Nutzer gewonnen hat
- Softbank investiert erneut in Open AI
- Quen 2.5 von Alibaba ist besser als viele andere Modelle (auch besser als Flax) in verschiedenen Kategorien (Text-to-Image, Video) und kostenlos nutzbar
Diskussion über die Kosten und die Zukunft der KI:
- Die Zeit, in der KI-Tools kostenlos zur Verfügung stehen, könnte sich dem Ende neigen
- Vergleich mit der Internetblase und kostenlosen SMS-Diensten
- Eventuelle Umstellung auf Pauschalverträge für KI-Dienste
Google investiert massiv in Infrastruktur (Rechenzentren)
- Es ist unklar, ob diese Investitionen sich auszahlen werden
- Wachstum von Google Cloud und YouTube
- Mögliche Überinvestition in Rechenzentren
Insolvenz von Tandberg Overland und deren Auswirkungen auf die Storage-Branche
Ihr Wartungsspezialist für alle großen Hardware Hersteller
Weitere Artikel
Stromnetz als Flaschenhals: Warum Rechenzentren zunehmend länger warten müssen
Während Unternehmen Milliarden in den Bau neuer Rechenzentren investieren, offenbart sich ein unerwarteter Engpass: der Anschluss an das Stromnetz.
Beschädigung des Peace-Unterseekabels im Roten Meer: erhebliche Störung des globalen Datenverkehrs erwartet
Das Peace Unterseekabel im Roten Meer wurde beschädigt. Die Folgen sind voraussichtlich monatelange Reparaturen und erhebliche Auswirkungen auf den
Project Stargate: 64.000 Nvidia GB200 GPUs werden in texanischem Rechenzentrum installiert
Das Project Stargate nimmt Fahrt auf: Die geplante Installation von 64.000 hochmodernen Nvidia GB200 Grafikprozessoren im Stargate Rechenzentrum in
