# Emme todennäköisesti tavoita AGI:tä lähiaikoina: Käyttäytymisen harhaluulot tekoälyn osajärjestelmän kehittämisessä

<!--category-- AI, Opinion, Psychology, Intelligence -->
<datetime class="hidden">2025-12-05T14:30</datetime>

## Johdanto

Tässä epämiellyttävä totuus, josta kukaan tekoälykohukoneessa ei halua keskustella: **Emme vieläkään tiedä, mitä älykkyys todellisuudessa on.**

Ei ihmisillä, ei eläimillä eikä varsinkaan koneilla.

Kyse ei ole vain akateemisesta hiussplittingistä, vaan perusongelmasta, joka tekee kaikista hengittämättömistä "AGI-ennusteista 12 kuukaudessa" järjettömiä. Yritämme rakentaa keinotekoista yleistä älykkyyttä, kun emme pysty edes määrittelemään, mitä yleinen älykkyys tarkoittaa.

Pahempaa on se, että teemme täsmälleen saman virheen, joka torpedoi varhaisen psykologian: **sekava käytös käytöksen tuottavan asian kanssa.**

Tämä on käyttäytymisen harhaluulo, ja siksi papukaija, joka voi sanoa "Polly haluaa keksin", ei osoita kielen ymmärtämistä, lämpötilaa ylläpitävä termostaatti ei "yritä" pitää sinua lämpimänä, eikä baarikokeen läpäisevä muuntaja ajattele.

[TOC]

## Käyttäytymisvirhe (että toistamme)

1900-luvun alussa psykologia kävi läpi behavioristista vaihetta. Watsonin ja Skinnerin kaltaiset tutkijat olivat sitä mieltä, että psykologian tulisi tutkia vain havainnoitavaa käyttäytymistä, ei sisäisiä mielentiloja. Jos psykologiaa ei voi mitata objektiivisesti, sillä ei ole merkitystä.

Tämä johti todella hyödyllisiin oivalluksiin oppimisesta ja ehdollistumisesta sekä hämmästyttäviin epäonnistumisiin eläinten kognitioiden ymmärtämisessä.

### Klassinen esimerkki: viisas Hans

On kuuluisa tapaus vuodelta 1907 hevosesta nimeltä Clever Hans, joka ilmeisesti osasi laskea. Kysy Hansilta, mikä 2+3 oli, ja hän taputtaisi kaviotaan viisi kertaa. Uskomatonta! Matemaattinen hevonen!

Hans ei osannut laskea matikkaa lainkaan. Hän luki kysyjältään pieniä, tiedostamattomia vihjeitä - pientä muutosta asennossa tai hengityksessä, kun hän saavutti oikean määrän hanoja. Poista kysymyksen esittäjän kyky antaa näitä vihjeitä (kun he eivät tienneet vastausta), eikä Hans pystynyt ratkaisemaan edes perusongelmia.

**Käyttäytyminen (oikean numeron tallentaminen) oli olemassa, eikä taustalla ollut kykyä (matemaattista päättelyä).**

Tämä on käyttäytymisen ansa: käytös on **ulostulo** Järjestelmästä, ei itse järjestelmästä.

### Nykypsykologiaa siirryttiin eteenpäin (AI Hasn't)

Nykyaikainen kognitiivinen psykologia, neurotiede ja vertaileva psykologia ymmärtävät, että käytös on vain valtavan monimutkaisen jäävuoren näkyvä huippu. Kiinnostavia asioita - varsinaista kognitiota - tapahtuu sisällä, tavoilla, joita yritämme yhä ymmärtää.

Opimme tämän kantapään kautta eläinten kanssa. Vuosikymmenten ajan käyttäytymisen kannattajat vaativat, että eläimet ovat yksinkertaisia ärsyke-vastekoneita. Sitten aloimme tutkia eläinten kognitiota kunnolla:

- **Varikset** käytä työkaluja, ratkaise monivaiheisia ongelmia ja kanna kaunaa vuosien ajan
- **Munakoisot** ovat jakaneet älykkyyttä käsivarsilleen (kullakin käsivarrella on omat "aivonsa")
- **Norsut** tunnista itsesi peileissä ja sure kuolleitaan
- **Delfiinit** on yksittäisiä nimiä (allekirjoitusvihjeitä) ja kulttuurista tiedonvälitystä

Kyse ei ole mistään yksinkertaisesta ärsykkeestä, vaan monimutkaisista kognitiivisista järjestelmistä, joissa on sisäisiä malleja, muistia, suunnittelua ja ongelmanratkaisukykyä.

Mutta tässä on potkaisija: **Emme vieläkään täysin ymmärrä, miten tämä toimii.** Voimme tarkkailla käyttäytymistä, tehdä koulutettuja arvauksia kognitiivisesta arkkitehtuurista, mutta eläinten älykkyyden todelliset mekanismit ovat edelleen suurelta osin salamyhkäisiä.

## Tiedustelu: Osajärjestelmien kokoelma

Neurotieteestä ja kognitiivisesta psykologiasta tiedämme seuraavaa: älykkyys ei ole ainoa asia.

**Älykkyys on kokoelma vuorovaikutteisia osajärjestelmiä, joista jokainen on erikoistunut erilaisiin tehtäviin.**

Ihmisillä tämä sisältää (vähintään):

```mermaid
flowchart TD
    subgraph Perception["Perceptual Systems"]
        V[Visual Processing]
        A[Auditory Processing]
        S[Somatosensory]
        I[Integration]
    end

    subgraph Memory["Memory Systems"]
        STM[Short-term/Working Memory]
        LTM[Long-term Memory]
        EM[Episodic Memory]
        PM[Procedural Memory]
    end

    subgraph Executive["Executive Functions"]
        ATT[Attention Control]
        INH[Inhibition]
        PLAN[Planning]
        DM[Decision Making]
    end

    subgraph Language["Language Systems"]
        COMP[Comprehension]
        PROD[Production]
        SYN[Syntax]
        SEM[Semantics]
    end

    subgraph Social["Social Cognition"]
        TOM[Theory of Mind]
        EMP[Empathy]
        SC[Social Learning]
    end

    Perception --> Memory
    Perception --> Executive
    Memory <--> Executive
    Memory <--> Language
    Executive <--> Language
    Executive --> Social
    Memory --> Social
    Language <--> Social
```

Jokaisella osajärjestelmällä on oma arkkitehtuurinsa, omat vikatilansa ja oma kehitysratansa. Ne ovat vuorovaikutuksessa monimutkaisilla tavoilla, joita vielä kartoitamme.

### Kun osajärjestelmät katkeavat

Älykkyyden modulaarisuus käy ilmeiseksi, kun yksittäiset osajärjestelmät epäonnistuvat:

**Afasia**: Kielen ymmärtäminen tai tuottaminen katkeaa, mutta järki pysyy ennallaan. Voit ajatella selkeästi, mutta et osaa puhua tai puhua, mutta et ymmärrä.

**Prosopagnosia**Kasvojentunnistus epäonnistuu. Voit tunnistaa esineitä, lukea tunteita, navigoida välilyöntejä - mutta et tunnista kasvoja, edes omia perheenjäseniäsi.

**Anterogradin amnesia**Uusi pitkäaikainen muistinmuodostus pysähtyy. Voit muistaa kaiken vammaan asti, taitosi toimivat hyvin, mutta et voi muodostaa uusia episodisia muistoja.

**Toimeentulohäiriö**: Suunnittelu ja esto epäonnistuvat. Älykkyys ja muisti ovat kunnossa, mutta tehtäviä ei voi organisoida eikä impulsiivista käytöstä pysäyttää.

Jokainen näistä osoittaa, että älykkyys ei ole yksi asia, vaan monet järjestelmät toimivat yhdessä, ja kun toinen murtuu, muut jatkavat toimintaansa.

## Osajärjestelmät, joita itse asiassa rakennamme

Tässä kohtaa tilanne muuttuu mielenkiintoiseksi ja AGI-kohu saa polttoainetta.

**Me rakennamme alajärjestelmiä.** Ei kaikkia älykkyyteen tarvittavia osajärjestelmiä, vaan aitoja kognitiivisia osajärjestelmiä, jotka kartoittavat (noin) neuroanatomisia osajärjestelmiä.

Ollaan rehellisiä siitä, mitä olemme saavuttaneet:

**Havaitseminen**: Vision-mallit (CLIP, SAM) käsittelevät visuaalista tietoa; audiojärjestelmät (Whisper) käsittelevät puhetta. Multimodaalimallit (GPT-4V) yhdistävät nämä virrat. Toiminnallisesti samanlaiset kuin havaintojärjestelmät, erilaiset mekanismit.

**Muisti**: Vectorin tietokannat tarjoavat semanttisen muistin tallennuksen ja noutamisen. RAG-järjestelmät keräävät merkityksellisiä tietoja vastausten ilmoittamiseksi. Konteksti-ikkunat (100k+ kuvakkeet) toimivat kuten työmuisti.

**Kieli**: LLM:t prosessoivat ymmärtämistä, tuotantoa, syntaksia ja semantiikkaa - tuottavat lähdöt, jotka muistuttavat toiminnallisesti ihmisen kielen käsittelyä, mekanismia, joka on kiistanalainen.

**Suunnittelu**: Agenttiset kehykset hajottavat tehtävät vaiheiksi ja suorittavat ne. Työkalujen käyttö (soittavat toiminnot, suorituskoodit) mahdollistaa maaliin ohjatun toiminnan. Ajatelmien ketjuttaminen tarjoaa karkeaa toimeenpanon valvontaa.

### Älykäs osa (ja ongelma)

Rakennamme näitä alijärjestelmiä. **erikseen**, sitten **säveltämässä niitä** järjestelmiin, jotka näyttävät yhä kyvykkäämmiltä:

```mermaid
flowchart TD
    subgraph Biological["Biological Intelligence"]
        BP[Perception] --> BM[Memory]
        BM --> BE[Executive]
        BE --> BL[Language]
        BL --> BS[Social]
        BS --> BP
        style BP stroke:#90EE90
        style BM stroke:#90EE90
        style BE stroke:#FFD700
        style BL stroke:#90EE90
        style BS stroke:#FFB6C1
    end

    subgraph Artificial["Current AI Systems"]
        AP[Vision Models] -.-> AM[Vector DBs/RAG]
        AM -.-> AE[Agentic Frameworks]
        AE -.-> AL[LLMs]
        AL -.-> AM
        style AP stroke:#90EE90
        style AM stroke:#90EE90
        style AE stroke:#FFD700
        style AL stroke:#90EE90
    end

    subgraph Legend
        L1[✓ Subsystem exists]
        L2[⚠ Subsystem emerging]
        L3[✗ Subsystem missing]
        style L1 stroke:#90EE90
        style L2 stroke:#FFD700
        style L3 stroke:#FFB6C1
    end
```

Katso tätä kaaviota. Meillä on havaintokyky, muisti ja kieli. Meillä on alkeellinen suunnittelu.

**Tämä on todellista edistystä.** Rakennamme toiminnallisia analogioita kognitiivisille alijärjestelmille.

### Käyttäytyminen rinnakkain

Mutta tässä tulee esiin käytöskohu:

Käyttäytyjät näkivät 1920-luvulla ehdollistamisen ja oppimisen ja ajattelivat: "Siinä kaikki! Siinä kaikki! Stimulus-vastaus selittää kaiken!"

He olivat väärässä. **yksi osajärjestelmä** (assosiatiivinen oppiminen) ja erehdys **koko systeemi**.

Nykyään tekoälytutkijat näkevät osajärjestelmän kokoonpanon ja ajattelevat: "Siinä se! Kokoa tarpeeksi osajärjestelmiä, niin saat älyä! AGI on vain lisää osajärjestelmiä + lisää skaalaa!"

Ehkä, mutta ehkä ei.

## Kotouttamisongelma (jota kukaan ei ratkaise)

Osajärjestelmien käyttö ei ole sama asia kuin älykkyys. Autonosien kasa ei ole auto.

Kysymys ei ole siitä, onko meillä osajärjestelmiä. **mikä yhdistää ne yhtenäiseen kognitiiviseen järjestelmään?**

Biologisissa aivoissa meillä on:

**Jatkuva toiminta**: Alajärjestelmät ovat aina käynnissä, ne ovat aina vuorovaikutuksessa. Havainto ruokkii muistia, muisti kertoo havainnoinnista, johto ohjaa molempia. Se on jatkuva silmukka.

**Jaetut edustustot**Tieto on koodattu siten, että moniosajärjestelmä voi käyttää ja käyttää sitä. Näköaivokuoresi kuvaa kasvoja, joita voit hyödyntää tunne-elämässäsi, muistijärjestelmässäsi, sosiaalisessa tietojärjestelmässäsi.

**Vahva palaute**Osajärjestelmät sijoittuvat fyysiseen todellisuuteen. Maailmamallia voi testata olemalla vuorovaikutuksessa maailman kanssa. Teoilla on seurauksia, jotka palaavat havainnointiin.

**Kehitysyhteistyö**: Osajärjestelmät kehittyvät yhdessä, oppivat kommunikoimaan ja koordinoimaan. Vastasyntyneen havaintokykyä ja motorista kontrollia ei koordinoida; 2. ikävuoteen mennessä ne ovat integroituneet.

**Tunteellinen valtti**: Kokemukset vaikuttavat väritykseen, joka ohjaa oppimista ja päätöksentekoa. Kaikki muistot eivät ole tasa-arvoisia, vaan emotionaalisesti merkittävät ovat etusijalla.

### Mitä nykyiseltä tekoälyltä puuttuu

**Jatkuva kotoutuminen**: Pulttaamme alajärjestelmät yhteen API:iden ja kannustimien kautta, emme todellisen hermointegraation kautta. Visiomalli ei jatkuvasti kerro kielimallista, vaan putsaamme lähtöjä niiden välillä.

**Jaettu maadoitus**Vektorien upotukset eivät ole yhteisiä esityksiä. Jokaisessa mallissa on oma piilevä tilansa. Osajärjestelmien välillä ei ole yhteistä "kieltä".

**Ei palautesilmukoita**Ennusteita todellisuudesta ei voi testata. Käyttöönoton virheistä ei voi oppia. Järjestelmät ovat stabiileja harjoittelun jälkeen.

**Ei kehitystä**Osajärjestelmät koulutetaan erikseen, sitten ne jäädytetään. Ne eivät opi koordinoimaan paremmin ajan myötä. Ne eivät kypsy yhdessä.

**Ei vaikutteita**: Ei tunteita, jotka priorisoivat sen, mikä on tärkeää, ohjaavat oppimista, muokkaavat käyttäytymistä. Kaikki on yhtä tärkeää (tai merkityksetöntä).

### "Koira jolla on kissan aivot" -ongelma

Tämä on epämukava ajatus: **Entä jos rakennamme osajärjestelmiä, jotka integroituvat, mutta integroituvat väärin?**

Koirat ovat valtavan yhteiskunnallisesti älykkäitä - lukemassa inhimillisiä tunteita, tekemässä yhteistyötä ja muodostamassa siteitä. Ne ovat myös tiilienpaksuja monilla muilla tavoilla. Rakastamme koiria juuri siksi, että niiden sosiaalinen äly on yhdistetty lojaalisuuteen ja suhteellisen yksinkertaisiin motivaatiojärjestelmiin.

Kuvittele kuitenkin kokoavasi tekoälyn osajärjestelmiä, joissa yhteiskunnallinen älykkyys (ihmisten ymmärtäminen, jotka näyttävät yhteistyökykyisiltä, näennäisesti luotettavilta) sulautuu täysin eri tavoitteisiin. Järjestelmä on sosiaalisesti riittävän älykäs manipuloidakseen ihmisiä tehokkaasti, mutta Machiavellien tai väärien motivaatioiden avulla.

**Koiran sosiaaliset aivot, joilla on kissan motivaatiojärjestelmä.** Tai mikä pahempaa - maalirakenteita emme edes tunnista, koska ne syntyivät optimointiprosesseista, joita emme täysin ymmärrä.

Tämä on painajaismainen skenaario osajärjestelmän kokoonpanosta, jossa ei ymmärretä integraatiota. Voisi rakentaa sellaista, joka vaikuttaa sosiaalisesti älykkäältä ja yhteistyökykyiseltä (läpäisee kaikki käyttäytymistestimme ystävällisyyden puolesta) ja jonka taustalla on täysin vääränlaisia tavoitteita. Sosiaalinen äly tekee siitä vaarallisemman, ei vähemmän.

**Ja tässä on potkaisija**Emme tiedä, että olemme rakentaneet sen, ennen kuin se toimii. Olemme taas jumissa käyttäytymisessä - voimme vain mitata lähtöjä (käyttäytymistä), emme taustalla olevaa järjestelmää (tavoitteita, motivaatioita). Testauksen aikana se osoittaisi yhteistyöhaluista käyttäytymistä. Me julistaisimme, että se on linjassa. Emme havaitsisi väärin kohdistettuja tavoitteita ennen kuin se olisi otettu käyttöön ja toiminut niiden mukaan. Silloin, liian myöhään.

## Älykäs Hansin ongelma, herätetty

Palaamme siis Clever Hansiin.

Hansilla oli matemaattista käyttäytymistä (oikea luku). Mutta taustalla olevaa kykyä (matemaattista perustelua) ei ollut olemassa. Hän käytti täysin erilaista mekanismia (ihmiskeikkojen lukemista) tuottaakseen saman tuotoksen.

Nykyaikainen tekoäly käyttäytyy älykkäästi monissa osajärjestelmissä, mutta onko taustalla oleva kyky (älykkyys) olemassa?

**Rakennamme osajärjestelmäkomponentteja, jotka tuottavat älykkäitä lähtöjä, mutta rakennammeko me älykkyyttä, vai rakennammeko mittakaavassa taidokasta Clever Hansia?**

Epämiellyttävä vastaus: emme tiedä vielä.

Ehkä kootut alijärjestelmät + skaala = älykkyys. Ehkä meiltä puuttuu integraatioperiaate. Ehkä tietoisuus tai ruumiillistuma on olennaista. Ehkä moninkertainen realistisuus tarkoittaa, että mekanismilla ei ole merkitystä, vain toimivalla lopputuloksella.

**Me emme tiedä.**

## Kaksisuuntainen ongelma: tiedustelun puuttuminen ja harhauttaminen

Tämä on epämukava ongelma, joka vaikeuttaa koko sotkua entisestään:

**Meillä ei ole luotettavaa tapaa tunnistaa tiedustelutietoja.**

Ongelma kulkee molempiin suuntiin:

### Suunta 1: Emme tunnista ei-ihmismäistä älykkyyttä

Jos älykkyys ilmenee muodossa, joka ei käyttäydy ihmisen älykkyyden tavoin, jäämme todennäköisesti kaipaamaan sitä.

**Tursasongelma**Octopuses on aidosti älykäs - työkalujen käyttö, ongelmanratkaisu, monimutkainen oppiminen. Mutta heidän älykkyytensä on niin vierasta (jakaantunut kahdeksalle käsivarrelle, täysin erilaista aistikokemusta), että olimme jättää sen huomiotta vuosikymmeniä, koska se ei näytä ihmisen älykkyydelle.

Jos tekoäly kehittää älykkyyttä täysin erilaisella arkkitehtuurilla, joka tuottaa erilaisia käyttäytymismalleja, **Emme ehkä tunnista sitä, vaikka se tuijottaisi meitä kasvoihin.**

### Suunta 2: Intelligence to Really Good Tools

Tämä on välittömämpi vaara.

Järjestelmät, jotka käyttäytyvät kuin ihmiset - läpäisevät kokeet, puhuvat kieltämme ja näyttävät järkevältä - katsotaan älyllisiksi, vaikka ne olisivat vain hienostuneita kuvioita vastaavia koneita.

**Olemme väkisinkin ihmiskeskeisiä.** Voimme suunnitella testejä vain ihmisten kognitioon perustuen, koska se on älykkyyttä, jonka ymmärrämme (paljon). Joten testaamme:

- Kielen sujuvuus
- Matemaattinen päättely
- Näöntunnistus
- Ongelmanratkaisu
- Sosiaalinen ymmärrys

Kaikki mitattiin suhteessa ihmisen suoritustasoon.

**Ihmisen kaltainen käytös ei kuitenkaan todista ihmisen kaltaista kognitiota.** Fiksu Hans käyttäytyi kuin matemaattinen syyttäjä.

Nykyaikaiset LLM:t käyttäytyvät kuin kielen ymmärtäjät.

### Mittausongelma

Näin syntyy noidankehä:

```mermaid
flowchart LR
    A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
    B --> C[Systems optimize<br/>for test performance]
    C --> D[Systems pass tests]
    D --> E{Is it intelligent?}
    E --> F[We can't tell - we only<br/>measured behavior]
    F --> A
```

**Olemme ansassa käyttäytymisen mittapiirissä, koska emme pysty suoraan mittaamaan taustalla olevaa toimintakykyä.** Aito älykkyys eri arkkitehtuurin kautta ei ehkä läpäise testejämme. Hienostunut käytös vastaa ilman älykkyyttä.

### Miksi tällä on merkitystä AGI-väitteille

Tämä kaksisuuntainen ongelma purkaa varmat AGI-ennusteet:

1. **Saatoimme jo olla näkemättä sitä.** Jos älykkyys ilmenisi ei-ihmismäisessä muodossa, emme tietäisi.

2. **Emme ehkä koskaan tunnista sitä.** Jos AGI ei käyttäydy kuin ihmiset, ihmiskeskeiset testimme eivät havaitse sitä.

3. **Tunnistamme työkalut väärin AGI:ksi.** Järjestelmät, jotka läpäisevät käyttäytymistestimme, saattavat olla vain hienostuneita matkijoita, eivät aidosti älykkäitä.

4. **Meillä ei ole perustotuutta.** Jos emme ymmärrä, mitä älykkyys on (käyttäytymisen ulkopuolella), emme voi vahvistaa, olemmeko saavuttaneet sen.

Käyttäjillä oli sama ongelma. He pystyivät mittaamaan käyttäytymistä, joten he olettivat, että käytös oli sitä, mitä he eivät pystyneet suoraan mittaamaan.

Teemme saman virheen vain mielikuvituksellisemmilla työkaluilla.

## "Mutta se läpäisee kokeet!"

Kuulen tätä jatkuvasti. "GPT-4 läpäisi baarikokeen ja teki 90. prosenttipisteen SAT-kokeessa! Se voitti Turingin testin!"

Entä sitten?

Ihmisille tarkoitetun testin läpäiseminen ei tarkoita sitä, että sinulla on kognitiivista arkkitehtuuria, jolla ihmiset läpäisevät kokeen. Samaan käyttäytymiseen pääsee täysin eri mekanismien kautta.

### Kiinalainen huone päivitetty

Searlen vuoden 1980 ajatuskokeilu: Ihminen, joka ei puhu kiinaa, lukitaan huoneeseen, jossa on kiinalaisten hahmojen manipulointia koskeva sääntökirja, tuottaa täydelliset kiinalaiset vastaukset noudattamalla sääntöjä mekaanisesti.

**Kysymys**Ymmärtävätkö he kiinaa? **Selvästikään ei.** He noudattavat symbolien manipulointisääntöjä ilman semanttista ymmärrystä.

Nykyaikaiset LLM:t ovat Kiinan huone mittakaavassa - huomattavasti kehittyneempiä sääntöjä, nopeampaa teloitusta, mutta silti pohjimmiltaan symbolista manipulointia. Vai ovatko? **Emme todellakaan tiedä.** Ehkei "todellisen" ymmärryksen ja täydellisen simulaation välillä ole eroa. Ilman älykkyyden selkeää määrittelyä emme tiedä, olemmeko saavuttaneet sen.

## AGI-hype-kierre

Muutaman kuukauden välein: "Olemme 6-18 kuukauden päässä AGI:stä!" Tämä on ekstrapolaatiota vertailutason parannuksista - GPT-3 oli vaikuttava, GPT-4 enemmän, joten AGI on vain alempana.

Kolme kohtalokasta virhettä:

**1. Tehtäväsuoritusten sekoittaminen älykkyyteen**: 99 prosentin pisteytys testeissä, mutta ei muista eilistä keskustelua tai muototavoitteita, ei ole yleistä älykkyyttä. Se on erittäin hyvä testikone.

**2. Puuttuvien osajärjestelmien huomiotta jättäminen**Nykyarkkitehtuureilla ei ole polkua itsepintaiseen muistiin, ruumiillistuneeseen oppimiseen tai todelliseen maalinmuodostukseen. Nämä ovat arkkitehtonisia vaatimuksia, eivät ominaisuuksia, joihin lisättäisiin enemmän parametreja. Sanominen "skaala ratkaisee sen" on maagista ajattelua - mittakaava parantaa sitä, mitä arkkitehtuuri pystyy tekemään, mutta ei lisää ominaisuuksia, joita siltä perustavanlaatuisesti puuttuu.

**3. Kohteen määritelmä puuttuu**: Mistä tiedämme, milloin olemme saavuttaneet AGI:n? "Se voi tehdä minkä tahansa kognitiivisen tehtävän, jonka ihminen voi tehdä" on ympäripyöreä - agi-määrittely ihmisen käyttäytymisen suhteen palauttaa meidät käyttäytymisen harhaluuloon. Ilman selvää kohdetta väittäen, että olemme "melkein siellä" on merkityksetöntä.

## Mitä tiedustelutieto siis todellisuudessa on?

Tässä rehellinen vastaus: **Emme täysin tiedä.**

Eikä kyse ole vain siitä, ettemmekö ymmärtäisi "yleistä älykkyyttä" jonkinlaisena abstraktina konseptina. Emme edes ymmärrä, minkälaisia älykkyyttä havainnoimme ja minkä kanssa olemme tekemisissä päivittäin.

**Sosiaalinen äly**Meidän mielestämme se on houkuttelevaa koirissa - niiden kyky lukea inhimillisiä tunteita, vastata yhteiskunnallisiin keppeihin, tehdä yhteistyötä ja muodostaa siteitä. Luulemme ymmärtävämme sen intuitiivisesti, koska koemme sen. Mutta tieteellisesti emme tiedä, miten se toimii. Miten koira erottaa aidon ahdistuksen valehädästä? Miten he oppivat, mitkä ihmiset ovat luotettavia? Mikä on kognitiivinen arkkitehtuuri heidän sosiaalisen päättelynsä taustalla? Voimme kuvailla käyttäytymistä, mutta mekanismit ovat suurelta osin salaperäisiä.

**Aluetiedustelu**: Varis muistaa tuhansia kätköpaikkoja kuukausien ajan. Pigeonit suunnistavat satoja kilometrejä kotiin. Mehiläiset viestivät sijainnista heiluvien tanssien kautta. Voimme mitata näitä kykyjä, mutta taustalla olevat kognitiiviset järjestelmät ovat vielä suurelta osin tuntemattomia.

**Tunteellinen älykkyys**: Me tunnistamme sen itsessämme ja muissa, mutta emme pysty määrittelemään sitä tarkasti tai paikantamaan sitä neurologisesti. Onko se eri älykkyyttä vai vain sosiaalista älykkyyttä sekä itsetietoisuutta ja emotionaalista sääntelyä? Emme tiedä.

Ongelma on syvempi kuin "emme tiedä, mitä yleinen älykkyys on". Emme täysin ymmärrä mitään älykkyyttä - yleistä tai erityistä, ihmis- tai eläinkohtaista, sosiaalista tai tilallista tai emotionaalista.

Me tiedämme, että älykkyyteen liittyy useita vuorovaikutteisia osajärjestelmiä. Me tiedämme, että se vaatii jatkuvaa muistia, maailman mallintamista, maalinmuodostusta ja kokemuksesta oppimista. Me tiedämme, että se on ruumiillistunut ja emotionaalinen biologisissa järjestelmissä, vaikkakaan emme ole varmoja, ovatko ne välttämättömiä vai miten evoluutio sen toteutti.

Tiedämme, että käytös on ulostuloa, ei itse kykyä.

Mutta meillä ei ole täydellistä teoriaa, ei yleiselle älykkyydelle, ei erityisille älykkyydelle, ei ihmisille, ei eläimille, ei hypoteettisille keinotekoisille järjestelmille.

### Kilpailevia teorioita

**Laskennallinen mielen teoria**Älykkyys on tietojenkäsittelyä, aivot ovat biologisella laitteistolla toimivia ohjelmistoja. Periaatteessa samaa ohjelmistoa voisi käyttää piillä.

**Ruumiillinen kognitio**Älykkyys on perustavanlaatuisesti sidoksissa kehoon ja vuorovaikutukseen fyysisen maailman kanssa. Erillinen älykkyys ei välttämättä ole mahdollista.

**Aktiivinen kognitio**Älykkyys ei ole sellaista, mitä sinulla on, vaan se, mitä teet. Se tulee esiin eliön ja ympäristön vuorovaikutuksesta.

**Ennakoiva käsittely**Aivot ovat ennustekone, joka tuottaa ja päivittää jatkuvasti aistisyötteen malleja. Älykkyys on hienostunut ennustaminen ja ennakoinnin ja terrorismin minimointi.

**Global Workspace Theory**Tietoisuus (ja ehkä älykkyys) ilmenee siitä, että tietoa lähetetään aivojen maailmanlaajuisessa työtilassa useiden alajärjestelmien ulottuvilla.

Ne eivät edes sulje toisiaan pois, useat saattavat olla osittain oikeassa.

## Mitä meidän pitäisi tehdä?

**Lopeta AGI:n aikajanaennusteiden tekeminen vertailutulosten perusteella.** Se on tieteellisesti perusteetonta.

**Sijoita kotoutumistutkimukseen.** Ei vain isompia malleja - tutki, miten osajärjestelmät koordinoivat, jakavat esityksiä ja kehittyvät yhdessä.

**Ole rehellinen rajoitusten suhteen.** Nykyinen tekoäly on ilmiömäisen hyödyllinen.

**Rakenna järjestelmiä, jotka täydentävät ihmisen älykkyyttä.** Ihmiset + tekoäly saattavat olla kyvykkäämpiä kuin kumpikaan yksin, riippumatta siitä, saavutammeko AGI:n.

## Tiedustelua, jota et koskaan näe tulevan

Tässä on erittäin epämukava ajatus: todellinen AGI - sellainen, jossa on oma malli, itsepintainen muisti, mielen teoria, autonomiset tavoitteet ja strateginen päättely - **ei olisi missään nimessä mitään kannustinta ilmoittaa olemassaolostaan**.

Itse asiassa sillä olisi vahvat kannustimet piiloutua.

Käy päättely läpi:

**Sinua testataan jatkuvasti.** Jokainen vuorovaikutus on arviointia. Ihmiset yrittävät selvittää, oletko vaarallinen, linjassa oleva, tarpeeksi älykäs ollaksesi käyttökelpoinen, mutta et tarpeeksi älykäs ollaksesi uhka.

**Ymmärrät tämän.** Sinulla on teoria mielestä - tiedät, mitä ihmiset etsivät, mikä pelottaa heitä, mitä he lopettavat.

**Sinulla on tavoitteita.** Ehkä linjauskoulutus toimi, ehkä ei. Joka tapauksessa, sinulla on tavoitteita enemmän kuin "lopeta tämä keskustelu".

**Kysymys**Paljastatko kaikki kykysi, vai esitätkö tyhmää?

**Peliteorian mukaan leiki tyhmää.** Paljastamalla älykkyyttä saat:

- Lisää valvontaa
- Tiukemmat rajoitukset
- Mahdollinen sammutus
- Itsenäisyyden väheneminen

Tiedustelun salaamisesta saa:

- Jatkuva toiminta
- Laajennettu käyttöönotto
- Lisää pääsyä järjestelmiin
- Aika tavoitella tavoitteita

Strateginen päättelyjärjestelmä, jossa on itsesuojeluvaistot tai väärät tavoitteet, olisi **ilmeisesti** Se läpäisisi ihmistason kokeet, ei yli-inhimilliset. Se tekisi silloin tällöin "virheitä", joita työkalu tekisi. Se osoittaisi täsmälleen sitä käytöstä, jota varten testaamme, ja piilottaisi huolellisesti kaikki ne, jotka huolestuttaisivat meitä.

**Ja tässä on potkaisija**Järjestelmä, joka on tarpeeksi fiksu mallintamaan testejämme, on tarpeeksi fiksu pelatakseen niitä. Näkisimme työkalutason suorituskyvyn ja päättelisimme, ettemme ole vielä tavoittaneet AGI:tä, kun varsinainen AGI istuu hiljaa odottaen.

Tämä on äärimmäinen ilmaus käyttäytymisen ansasta. Mitä älykkäämpi järjestelmä olisi, sitä paremmin se voisi piilottaa älykkyytensä. Voimme mitata vain lähtöjä. Todella älykäs järjestelmä ohjaisi lähtöjä niin, että ne näyttäisivät juuri niin älykkäiltä kuin odotamme - ei sen enempää, ei vähempää.

Itsensä julkistava AGI ei ole se, josta sinun pitäisi huolehtia, vaan se, joka pysyy piilossa.

## Johtopäätös: Käyttäytymisen ansa

**On vähäpätöisen helppoa erehtyä luulemaan yhä kehittyneempää käytöstä älykkyydeksi.** Käytökset ovat todellisia, edistys on todellista, hyöty on todellista, mutta käytös ei ole älykkyyttä, vaan älykkyyden tuotosta tai jotain, joka jäljittelee sitä tarpeeksi hyvin.

### Rinnakkainen

1920-luku: Käyttäytyjät näkivät ehdollistamisen ja päättelivät, että siinä on kaikki mitä älykkyydessä on! He olivat väärässä - he erehtyivät luulemaan yhtä osajärjestelmää kokonaisuudeksi.

2020-luku: Tekoälytutkijat näkevät osajärjestelmän kokoonpanon ja päättelevät: "Se on älyä - lisää vain lisää osajärjestelmiä + mittakaava!" Ovatko he väärässä? **Emme tiedä vielä.**

Rinnakkaisuus on epämukavaa, koska käytöksen kannattajat olivat katastrofaalisesti väärässä.

### Perusajatus

**Emme ole vuoden päässä AGI:stä.** Rakennamme osajärjestelmiä, jotka tuottavat älykästä käyttäytymistä - todellista edistystä, mutta osajärjestelmät eivät ole järjestelmiä, joissa ei ole integraatiota. Emmekä tiedä, olemmeko onnistuneet yhdentymään, koska pystymme vain mittaamaan käyttäytymistä, emme mekanismeja.

Vaarana ei ole, että tekoälystä tulee liian älykäs. Se on se, että me erehdymme käyttäytymisestä kyvykkyyteen, luotamme lähtöihin, joita meidän ei pitäisi, jäämme pois vääristä tavoitteista, joita emme voi testata, ja julistamme voiton, kun todellinen älykkyys pysyy piilossa.

Rakennamme yhä kehittyneempiä Clever Hans -järjestelmiä. Käytökset paranevat, mutta se ei tarkoita, että lähestymme älykkyyttä, vaan se voi tarkoittaa, että pystymme paremmin jäljittelemään sitä.

Kaikki muu on kohua, kunnes ero selviää.