Künstliche Intelligenz: »Die Leute wollen nicht verstehen, wie KI funktioniert« (Spektrum)
https://www.spektrum.de/news/die-leute-wollen-nicht-verstehen-wie-ki-funktioniert/2201813
https://www.spektrum.de/news/die-leute-wollen-nicht-verstehen-wie-ki-funktioniert/2201813
4 Comments
SrTobi@feddit.de · -1 pts · 2y
Also ich würde sagen die meisten trainierten Algorithmen sind blackboxen auch für IT-experten... Ich weiß wie ein transformer funktioniert, auch vor chatgpt und ich hätte trotzdem nicht gedacht dass es so gut funktioniert. Bzw ich kann aus dem Wissen fast keinen Vorteil ziehen bei der Interaktion mit chatgpt.
Das heißt natürlich nicht, dass es nicht wichtig wäre für die Bevölkerung ein gewisses Verständnis für IT zu haben. Denn die ist sicherlich größtenteils nicht gegeben
agressivelyPassive@feddit.de · 0 pts · 2y
Sie sind in soweit Blackboxen, dass selbst die Hersteller nicht sagen können, warum sie so funktionieren.
Sie können weder sagen, warum eine bestimmte Entscheidung getroffen wurde, noch können sie sagen, warum ein bestimmtes Design funktioniert. Es ist gerade sehr viel mehr Kunst als Wissenschaft.
Aiyub@feddit.de · 0 pts · 2y
Als jemand der mit KI arbeitet: warum eine Entscheidung getroffen wurde ist meist schon nachvollziehbar. Wir können beispielsweise die pixel hervorheben die besonders stark zur Entscheidung beigetragen haben.
Das ist dann nur ein Teil des Problems, aber man ist nicht ganz blind wie du es suggerierst
agressivelyPassive@feddit.de · 1 pts · 2y
Du kannst mathematisch nachvollziehen, was passiert. Aber das "Warum" dahinter eben nicht. Im Sinne von "warum werden gerade diese Pixel als Tiger erkannt?" Das sind verschiedene Arten von Warums.