Das Verrückte ist ja, dass es bisher kaum einen wirklich objektiv nachweisbaren Nutzen von dieser Art KI, den "generativen AI" und Large Language Models (LLMs) gibt. (Abgesehen vom Finden von Sicherheitslücken in Software).
Anders als die vielen "traditionellen" KI Algorithmen, die handgeschriebene Adressen auf Briefen erkennen, Reiserouten und Verkehrsverbindungen planen, Gleichungen mit Suchverfahren lösen, Prozesse und Logistik optimieren, Röntgenbilder auf Anzeichen von Krebs screenen, und so fort.
13 Comments
botbot@feddit.org · 29 pts · 7d
Und was bedeutet das für Hessen?
HaraldvonBlauzahn@feddit.org · 4 pts · 7d
Für Hessen heißt das: Mehr Rechenzentren, und weniger Schwimmbäder. Schließlich muss man bei der KI um jeden Preis mithalten!!!
Und, hast Du schon mal gehört, wieviel Wasser Schwimmbäder verbrauchen? Also das geht gar nicht! /s
hendrik@palaver.p3x.de · 8 pts · 7d
Haha. Ist auch die Frage wem die ganzen Sicherheitslücken "nutzen". Also der Freien Software Gemeinschaft ist es wohl eher eine Last alle zwei Tage 450 potenzielle Sicherheitslücken abzuarbeiten 😅
brainwashed@feddit.org · 0 pts · 7d
Und dem Erweitern von Software, dem Neuschreiben von Software, dem Reverse-Engineeren von Software, und verbesserter OCR und Stimmgenerierung und Erkennung und Bilderzeugung und Bilderkennung und und und.
Keine Ahnung wie man das so absurd reduzieren kann.
HaraldvonBlauzahn@feddit.org · 7 pts · 7d
die dann niemand mehr versteht, weil's Technical Debt im Turbomodus produziert ?
stimmt, das soll damit auch gehen!
Das wiederum sind klassische Machine Learning / Mustererkennungsmethoden, die mit GenAI nichts zu tun haben. Wie ich im Opakommentar schon schrieb.
brainwashed@feddit.org · 0 pts · 7d
Richtig, wenn man damit technical Debt erzeugt ist das schlecht. Wenn man die langsam und von Hand erzeugt, ist das nicht besser. Am besten versteht man was man tut und erzeugt nicht mehr technical debt, als man langfristig verwalten kann.
jgjl@discuss.tchncs.de · 1 pts · 7d
Jupp, in allen Bereichen der IT absolut nützlich.
lichtmetzger@discuss.tchncs.de · 1 pts · 7d
Mhja, LLMs können Code schreiben. Jedoch stellt sich die Frage, ob der Nutzen noch gegeben ist wenn man die tatsächlichen Kosten dafür tragen muss.
Es ist aktuell nämlich noch anzuzweifeln ob es wirklich günstiger ist, große Projekte von LLMs schreiben zu lassen oder von Menschen.
Bei OpenAI zahlen Kunden ja teilweise 200 Dollar und verbrennen dann Tokens im Wert von 8000 Dollar. Ich persönlich glaube, dass die extrem schwachsinnigen Auswüchse wie Loops nach dem Platzen der Blase wieder verschwinden werden, weil es sich finanziell einfach nicht lohnt.
Und dann können wir mal realistisch schauen, wofür sich LLMs tatsächlich sinnvoll einsetzen lassen. Und wer überhaupt noch dazu bereit sein wird, große Modelle zu trainieren, das verbrennt ja auch ordentlich Geld und niemand wird das aus purem Altruismus machen.
brainwashed@feddit.org · 3 pts · 7d
Selbst wenn niemand jemals mehr Modelle trainiert, sind die aktuelle Open Weight Modelle in der Welt und lassen sich bereits auf Oberklasse Hardware lokal ausführen. Braucht dann auf nen aktuellen MacBook Pro ungefähr soviel Strom wie ne Glühlampe von anno dazumal. Es wird nicht wieder verschwinden und mit echten Open Source Modellen nur besser und vor allem nachvollziehbarer.
lichtmetzger@discuss.tchncs.de · 1 pts · 7d
Modelle veralten ziemlich schnell und gerade in der IT & Programmierung dreht sich die Welt weiter - es kommen ständig neue Tools, Frameworks und Programmiersprachen raus. Wir brauchen also regelmäßig Updates wenn wir moderne Software schreiben wollen, da macht es keinen Sinn mit zwei Jahre alten Modellen zu arbeiten.
Es ist also komplett scheißegal wieviel Strom dein Macbook zieht, wenn Alibaba entscheidet, dass sie kein neues qwen mehr raushauen, weil ihnen das zu teuer ist, bist du am Arsch.
Auch hier würde ich mal die Kirche im Dorf lassen. Niemand außer, nennen wir es mal Enthusiasten, wird sich ein Macbook Pro mit 128GB RAM für ~8.000€ kaufen, um darauf große lokale Modelle laufenzulassen.
Hab' ich auch nicht behauptet. Nach dem Platzen der Blase ist jedoch sehr fraglich, wer überhaupt noch Modelle trainieren wird und zu welchen Kosten. Und ich habe mich speziell auf Auswüchse wie Loops bezogen, bei denen Agenten sozusagen endlos im Kreis laufen, sowas kannst du auf lokaler Hardware nicht gut machen und im Rechenzentrum kostet es eigentlich richtig viel Geld.
Das größte Problem an dem ganzen KI-Hype ist, dass die tatsächlichen Kosten bei den großen Anbietern subventioniert werden. Nur dadurch, dass jemand für uns das Geld ausgibt, konnten solche Dinge wie agentic coding, loops und "Hey, ich schreib mal eine ganze Software komplett in eine andere Programmiersprache um" überhaupt erst entstehen. Und ich bleibe dabei: Vieles davon wird wieder verschwinden, die wenigsten werden mehrere tausend Euro für einen glorifizierten Chatbot ausgeben, um umfangreiche Software zu schreiben.
Ich wiederhole mich, aber wir werden sehen, welche Arbeitsweisen nach dem Platzen der Blase noch übrigbleiben werden - und einiges von dem was du angesprochen hast, wird finanziell nicht mehr machbar sein (z.B. das komplette Neuschreiben von Software).
brainwashed@feddit.org · 2 pts · 6d
Ja, was dachtest du was ich mit Oberklasse Hardware meine? Und was du verkennst ist, dass 128 GB RAM heute zu teuer und oversized sind, aber un Zukunft völliger Standard werden. Insbesondere wenn die Blase platzt, wird es einen Überfluss an Speicher geben. Dass Apple 16 GB Speicher in jedes iPhone packt hätte vor kurzem auch niemand geglaubt.
Korrekt, die werden stattdessen einige hundert Euro ausgeben, um umfangreiche Software neu zu schreiben. Speicherhersteller sind noch dabei Kapazitäten aufzubauen, die verschwinden nicht wieder.
Auf Reddit würde ich jetzt den RemindMe Bot bemühen, mir in 5 Jahren Bescheid zu geben.
lichtmetzger@discuss.tchncs.de · 0 pts · 6d
Genau, und Apple wird aus der puren Güte ihres Herzens die Macbooks in Zukunft auch nur noch für 1/4 des aktuellen Preises anbieten, sodass jeder lokale KI betreiben kann.
Dein Nutzername ist auch wirklich Programm, besonders weil du auf meine restlichen Kritikpunkte ja gar nicht wirklich eingehst. 08/15 KI-Booster.
brainwashed@feddit.org · 1 pts · 6d
Welche Kritikpunkte findest du besonders behandelnswert? "Niemand wird das mehr machen, das wird sich nicht lohnen, dann guckst du in die Röhre" – das sind Prognosen. Nichts davon ist eingetroffen. Was eingetroffen ist: Modelle die vor ein paar Jahren noch "Frontier" waren gibt es heute zum herunterladen. Ebenso gibt es Open Source Modelle. Das Trainieren ist zuerst eine Funktion der Hardware die man da draufwirft. Das wird nicht jeder morgens vor dem Frühstück machen, aber du baust dir idR auch keinen Linuxkernel selbst. Das wird jemand übernehmen.
Und Apple macht natürlich nichts aus der Güte des Herzens sondern weil die Konkurrenz sie zwingt. Siehe diverse sog. AI Modelle für Laptops, KI Fokussierte Workstations (die von AMD sogar nur 4k, echter schnapper) etc pp.
Wir werden sehen was passiert. Ich denke das setzt sich weiter durch und dann stehst du da uns redest dir ein, dass ausgerechnet diese Anwendungsfälle ja nicht das waren, was du gemeint hattest und ja eigentlich garkeine KI sind.