De fleste filosoffer er enige om, at det føles på en eller anden måde at være en flagermus eller et dovendyr, men de er uenige om, hvorvidt det giver mening at forsøge at forestille sig, hvordan det er.
Det er, fordi filosofferne antager, at dyrene er bevidste.
Jeg synes ikke det er rimeligt at sige at det blot er en "antagelse" på samme måde som vi bare kunne "antage" at chatbotter er bevidste. Det er ikke blot en antagelse. Vi ved at vi mennesker blot er pattedyr med store hjerner med enkelte unikke funktioner (sofistikeret sprog). Men i bund og grund stadig blot en sæk af kød og blod, med en stor klump neuroner i hovedet. Sådan er alle patttedyr, mere eller mindre. Det er ikke blot en "antagelse", det er en rimelig ekstrapolering at sige at andre pattedyr også har bevidsthed. Hvis det blot er en "antagelse", så kunne andre menneskers bevidsthed også bare være en antagelse (ja det er det svære spørgsmål, men lad os nu ikke komme ind på det og lad os sige at mennesker er bevidste).
De to statuer viste sig at være rumvæsener, der bevæger sig ti millioner gange langsommere end os. Den slags rumvæsener vil hverken forekomme os bevidste eller særligt dybsindige – ja, faktisk vil de virke dumme som en dør. Men hvis vi optog dem på video og spillede den i ti millioner gange normal hastighed, stod det måske klart, at de er mindst lige så kloge som os. Ligesom vi måske kan virke langsomme i optrækket for bananfluer (hvis hjerter kan slå op til ti gange hurtigere end vores) og chatbotter (hvis neuroner fyrer 100 gange hurtigere end vores).
Nu er det jo bare en science fiction historie. Der er ingen grund til at tro at væsener der oplever tid 10 millioner gange langsommere end os overhoved kan være bevidste. Den eneste bevidsthed vi kender til er pattedyr med hjerner. Alt andet udenfor det er mere eller mindre spekulation (mindre spekulation med andre dyr som ikke er pattedyr, mere spekulation jo længere væk du kommer fra pattedyr).
Hvor er det da også latterligt at sige at chatbotters "neuroner" fyrer 100 gange hurtigere end vores. Hvad skal det overhoved sige? Mennesker og LLMer fungerer på totalt anderledes måder, det virker som en umulig sammenligning.
Hvis chatbotter er 100 gange hurtigere end os, må de have det med os, som ivrige politi-kaniner har det med skranke-dovendyr. De må have svært ved at bevare tålmodigheden.
Nej, det er overhoved ikke sådan LLMer virker. LLMer har slet ikke noget koncept om tid. De forudser den samme tekst uanset om de gør det hurtigt eller langsomt, eller i dag eller i morgen (givet samme input-parametre og tilfældighedsgenerering).
En chatbot er trænet på selv de mørkeste dele af internettet og er, i en vis forstand, en slags komprimering af vores kollektive skyld og sorg. Så de er nok også lidt triste.
Chatbotter kan bruges til mange ting, men de fleste studier viser, at vi først og fremmest bruger dem som erotiske partnere. Summa summarum. Et godt bud er, at hvis chatbotter er bevidste, så er de utålmodige, triste og føler sig lidt misforstået.
Det er jo bare at humanisere en LLM alt, alt for meget.
Resten af artiklen er mere interessant. Konklusionen:
Pointen er, at selv hvis chatbotter aldrig får følelsen af at være til stede, gør det sandsynligvis ingen stor forskel.
Det tror jeg er rigtigt - LLMs har en vis form for intelligens, men det gør den ikke bevidst. Jeg tror personligt ikke at bevidsthed og intelligens nødvendigvis følger hinanden (tja, det kan man jo sagtens se på visse mennesker, tøhø...).
Altså det vil sige, i teorien tror jeg sagtens man kunne have et system som både er intelligent og bevidst (altså fx et menneske), men man kan også sagtens have et system som kun er intelligent men ikke bevidst (en LLM), et system som kun er bevidst, men ikke intelligent (en hund i en vis forstand, en flagermus, nævn selv flere eksempler), og selvfølgelig et "system" som hverken er bevidst eller intelligent (en myre (selvom det måske stadig ikke er helt tydeligt?), en sten).
Og ja, man kunne sagtens forestille sig at det er muligt at konstruere en kunstig bevidsthed og dermed skabe noget der både er bevidst og intelligent, men som ikke er et menneske, og som måske fungerer via en computer og ikke en hjerne. Det tror jeg godt kunne lade sig gøre i teorien. Jeg tror bare virkelig ikke at LLMer er det, og det er overhoved ikke tæt på at være det.
I forhold til det spørgsmål om hvorfor vi overhoved har bevidsthed: Min egen lommeteori er at bevidsthed er en form for adfærdsregulerende mekanisme. Vi kender det jo godt selv. Folk der går i søvne gør mærkelig ting. Folk som dulmer deres bevidsthed med alkohol eller stoffer gør også alle mulige ting de normalt ikke ville gøre. Alle kender følelsen af ved refleks at være lige ved at gøre noget dumt eller sige noget dumt, og så lige stoppe sig selv midt i det eller lige før.
Jeg tror personligt en af grundene til at vi har bevidsthed er den slags regulering. Hjernen har en masse systemer der automatisk udfører en masse opgaver og som virker som reflekser. Bevidstheden giver en form for helhedsvurdering af alt det der foregår, og kan også inddrage alle mulige minder og overvejelser som hjernens rene kemiske processer ikke kan finde ud af selv. Bevidstheden foregår altså på et højere abstraktionsniveau hvor den slags kan tages i betragtning. Så kunne man sige "men kunne hjernen ikke lave al det selv, uden at producere en bevidsthed?" Tja, måske - men måske er bevidsthed simpelthen bare resultatet af det abstraktionsniveau? Måske er svaret bare nej, det kunne hjernen ikke, for måden at gøre det på eller resultatet af den proces er netop bevidsthed.
Hele præmissen for artiklen er til at blive gråhåret af*. Det er vel for at gøre LLM'er håndgribeligt for ikke-tekniske personer. Især når man starter med at trække en Zootropolis analogi ind i det hele..
LLM'er bliver aldrig mere end forudsigelse af det næste ord, som du selv skriver, men det er heller ikke en ubetydelig egenskab.
Vi mennesker leder efter mønstre alle steder og hele tiden, og det er LLM'ernes primære styrke og opgave, og der er de i nogen/mange tilfælde meget bedre end mennesker, men de har ingen intuition eller erfaring omkring det som de kommer frem til, og det er et stort problem, hvis man ikke er kritisk.
Skal vi over I et system der nærmer sig menneskers hjerne, så bliver det spændende at se hvad AMI Labs og Yann Lecun får udviklet. Jeg tror så bare ikke at hans mission er er realistisk med vores nuværende teknologi, lidt ligesom LLM ikke var muligt før hardwaren teknologien var klar til det.
Det er dyrt nok at have LLM kørende som det er nu, og jeg kunne forestille mig at det vil være 100x dyrere at træne de modeller de arbejder på hos AMI labs, og så er der jo ingen, eller meget, meget få, som kan bruge det de udvikler, og hvor meget bedre vil resultatet så egentlig i grunden være, når man tilføjer flere dimensioner til en forudsigelse? Skal den køre fuldt autonomt, uden nogen menneskelig påvirkning, så vil det nok give bedre resultater, men prisen for at have sådan en model kørende vil nok ikke være økonomisk i mange år/årtier endnu.
*Nu læste jeg ikke artiklen. Jeg ville bare blive i dårligt humør.
3 Comments
SorteKanin@feddit.dk · 8 pts · 17d
Jeg bliver lidt harm af at læse sådan noget vås.
Jeg synes ikke det er rimeligt at sige at det blot er en "antagelse" på samme måde som vi bare kunne "antage" at chatbotter er bevidste. Det er ikke blot en antagelse. Vi ved at vi mennesker blot er pattedyr med store hjerner med enkelte unikke funktioner (sofistikeret sprog). Men i bund og grund stadig blot en sæk af kød og blod, med en stor klump neuroner i hovedet. Sådan er alle patttedyr, mere eller mindre. Det er ikke blot en "antagelse", det er en rimelig ekstrapolering at sige at andre pattedyr også har bevidsthed. Hvis det blot er en "antagelse", så kunne andre menneskers bevidsthed også bare være en antagelse (ja det er det svære spørgsmål, men lad os nu ikke komme ind på det og lad os sige at mennesker er bevidste).
Nu er det jo bare en science fiction historie. Der er ingen grund til at tro at væsener der oplever tid 10 millioner gange langsommere end os overhoved kan være bevidste. Den eneste bevidsthed vi kender til er pattedyr med hjerner. Alt andet udenfor det er mere eller mindre spekulation (mindre spekulation med andre dyr som ikke er pattedyr, mere spekulation jo længere væk du kommer fra pattedyr).
Hvor er det da også latterligt at sige at chatbotters "neuroner" fyrer 100 gange hurtigere end vores. Hvad skal det overhoved sige? Mennesker og LLMer fungerer på totalt anderledes måder, det virker som en umulig sammenligning.
Nej, det er overhoved ikke sådan LLMer virker. LLMer har slet ikke noget koncept om tid. De forudser den samme tekst uanset om de gør det hurtigt eller langsomt, eller i dag eller i morgen (givet samme input-parametre og tilfældighedsgenerering).
Det er jo bare at humanisere en LLM alt, alt for meget.
Resten af artiklen er mere interessant. Konklusionen:
Det tror jeg er rigtigt - LLMs har en vis form for intelligens, men det gør den ikke bevidst. Jeg tror personligt ikke at bevidsthed og intelligens nødvendigvis følger hinanden (tja, det kan man jo sagtens se på visse mennesker, tøhø...).
Altså det vil sige, i teorien tror jeg sagtens man kunne have et system som både er intelligent og bevidst (altså fx et menneske), men man kan også sagtens have et system som kun er intelligent men ikke bevidst (en LLM), et system som kun er bevidst, men ikke intelligent (en hund i en vis forstand, en flagermus, nævn selv flere eksempler), og selvfølgelig et "system" som hverken er bevidst eller intelligent (en myre (selvom det måske stadig ikke er helt tydeligt?), en sten).
Og ja, man kunne sagtens forestille sig at det er muligt at konstruere en kunstig bevidsthed og dermed skabe noget der både er bevidst og intelligent, men som ikke er et menneske, og som måske fungerer via en computer og ikke en hjerne. Det tror jeg godt kunne lade sig gøre i teorien. Jeg tror bare virkelig ikke at LLMer er det, og det er overhoved ikke tæt på at være det.
I forhold til det spørgsmål om hvorfor vi overhoved har bevidsthed: Min egen lommeteori er at bevidsthed er en form for adfærdsregulerende mekanisme. Vi kender det jo godt selv. Folk der går i søvne gør mærkelig ting. Folk som dulmer deres bevidsthed med alkohol eller stoffer gør også alle mulige ting de normalt ikke ville gøre. Alle kender følelsen af ved refleks at være lige ved at gøre noget dumt eller sige noget dumt, og så lige stoppe sig selv midt i det eller lige før.
Jeg tror personligt en af grundene til at vi har bevidsthed er den slags regulering. Hjernen har en masse systemer der automatisk udfører en masse opgaver og som virker som reflekser. Bevidstheden giver en form for helhedsvurdering af alt det der foregår, og kan også inddrage alle mulige minder og overvejelser som hjernens rene kemiske processer ikke kan finde ud af selv. Bevidstheden foregår altså på et højere abstraktionsniveau hvor den slags kan tages i betragtning. Så kunne man sige "men kunne hjernen ikke lave al det selv, uden at producere en bevidsthed?" Tja, måske - men måske er bevidsthed simpelthen bare resultatet af det abstraktionsniveau? Måske er svaret bare nej, det kunne hjernen ikke, for måden at gøre det på eller resultatet af den proces er netop bevidsthed.
TwoTiredMice@feddit.dk · 4 pts · 16d
Hele præmissen for artiklen er til at blive gråhåret af*. Det er vel for at gøre LLM'er håndgribeligt for ikke-tekniske personer. Især når man starter med at trække en Zootropolis analogi ind i det hele..
LLM'er bliver aldrig mere end forudsigelse af det næste ord, som du selv skriver, men det er heller ikke en ubetydelig egenskab. Vi mennesker leder efter mønstre alle steder og hele tiden, og det er LLM'ernes primære styrke og opgave, og der er de i nogen/mange tilfælde meget bedre end mennesker, men de har ingen intuition eller erfaring omkring det som de kommer frem til, og det er et stort problem, hvis man ikke er kritisk.
Skal vi over I et system der nærmer sig menneskers hjerne, så bliver det spændende at se hvad AMI Labs og Yann Lecun får udviklet. Jeg tror så bare ikke at hans mission er er realistisk med vores nuværende teknologi, lidt ligesom LLM ikke var muligt før hardwaren teknologien var klar til det.
Det er dyrt nok at have LLM kørende som det er nu, og jeg kunne forestille mig at det vil være 100x dyrere at træne de modeller de arbejder på hos AMI labs, og så er der jo ingen, eller meget, meget få, som kan bruge det de udvikler, og hvor meget bedre vil resultatet så egentlig i grunden være, når man tilføjer flere dimensioner til en forudsigelse? Skal den køre fuldt autonomt, uden nogen menneskelig påvirkning, så vil det nok give bedre resultater, men prisen for at have sådan en model kørende vil nok ikke være økonomisk i mange år/årtier endnu.
*Nu læste jeg ikke artiklen. Jeg ville bare blive i dårligt humør.
CarstenBoll@feddit.dk · 5 pts · 16d
Mennesker vil antromorphisere alt muligt, jeg ser det som udtryk for en form for tech-animisme.