Miten viestintä muuttaa yksinkertaiset agentit joksikin suuremmaksi

Huomaa: Inspiroinut ajattelemalla laajennuksia lähinnä lucid.mockllmapiin ja materiaalia (ei koskaan julkaista, mutta haluan ajatella sitä) scifi-romaania "Michael" emergentistä tekoälystä

Transformaatio

Osassa 1 nähtiin, kuinka yksinkertaiset kuviot – jaksottaiset ketjut, rinnakkaiskäsittely, validointisilmukat – luovat emergentististä monimutkaisuutta. Moni tekijä yksinkertaisen säännön mukaan tuottaa hienostunutta käyttäytymistä.

Ohjelmoit virran: A menee B:hen menee C:hen.

Kuvittele nyt jotain erilaista.

Kuvittele, että agentit voivat keskustelkaa keskenänne.

Ei vain siirtää tietoja järjestyksessä, vaan todella kommunikoida. Jaa asiayhteys. Kysy kysymyksiä. Neuvottele. Keskustelu.

Yhtäkkiä järjestelmä ei ole vain hienostunut – se on mukautuva.

Ja se muuttaa kaiken.

Muurahaissiirtokunnan ongelma

Ennen kuin sukeltamme LLM:ään, puhutaan muurahaisista.

Yksittäinen muurahainen on yksinkertainen, lähes mekaaninen, seuraa feromonien jälkiä, kerää ruokaa ja tuo sen takaisin pesään.

Yksikään muurahainen ei ymmärrä "kolonian" käsitettä. Ei muurahaisten suunnitelmia reittien etsimisestä. Yhdelläkään muurahaisella ei ole pesäarkkitehtuurin henkistä mallia.

Mutta siirtokunta Siirtokunta optimoi etsinnän, suunnittelee laajennuksia, puolustaa uhkia ja mukautuu ympäristömuutoksiin.

Miten?

Viestintä. Feromonien jäljet ovat tietoa. Kun muurahaiset törmäävät toisiinsa, ne vaihtavat kemiallisia signaaleja, jotka jakavat tietoja ravinnonlähteistä, uhkista ja pesäolosuhteista.

Älykkyys ei ole missään yksittäisessä muurahaisessa. Viestintäverkko.

Siirtokunta on älykkäämpi kuin mikään muurahainen, ei siksi, että yksittäiset muurahaiset olisivat älykkäämpiä, vaan siksi, että niiden välillä virtaava tieto loi kollektiivisella tasolla vallitsevaa emergenttiä käyttäytymistä.

Sekventiaalisesta kollektiiviseksi

Ensimmäisessä osassa meillä oli tämä:

Agent A → Agent B → Agent C → Output

Jokainen agentti käsittelee dataa ja välittää sitä eteenpäin. Yksinkertaista, tehokasta, mutta rajallista.

Kuvittelehan tätä:

          ↗→ Agent B ←→ Agent C ↘
Agent A ←→                        → Output
          ↘→ Agent D ←→ Agent E ↗

Agentit eivät vain välitä dataa eteenpäin, vaan he puhuvat keskenään.

Tämä on kollektiivinen tiedusteluJa sillä on ominaisuuksia, joiden mukaan peräkkäinen käsittely ei:

Omaisuus 1: Emergent Specialization

Kun agentit kommunikoivat, he luonnollisesti erikoistuvat sen perusteella, missä ovat hyviä.

Kuvittele kolme tekijää, jotka työstävät tuotekuvausta:

• Agentti A on nopea mutta matala
• Agentti B on yksityiskohtainen mutta hidas
• Agentti C on luova, mutta joskus epätarkka

Kausittaisessa putkessa ohjelmoidaan: A tuottaa, B jalostaa, C varmentaa.

Mutta viestinnässä tapahtuu jotain muuta:

1. Agentti A tuottaa alkutuloksen nopeasti
2. Agentti B lukee sen ja sanoo: "Tähän tarvitaan tarkempia teknisiä yksityiskohtia spesifikaatio-osiossa."
3. Agentti C lukee sen, sanoo "markkinointikappale tuntuu lattealta"
4. Agentti B tuottaa paranneltuja speksejä
5. Agentti C tuottaa tehostetun markkinointikopion
6. Agentti A tarkistaa johdonmukaisuuden eri osien välillä
7. Ne neuvottelevat konsensukseen asti

Kukaan ei ohjelmoinut tätä työnjakoa. Se syntyi viestinnästä, joka perustui kunkin agentin vahvuuksiin.

Omaisuus 2: Väliaikaiset koalitiot (Ad-Hoc -valiokunnat)

Tässä kohtaa se käy mielenkiintoiseksi.

Yksinkertaisissa ongelmissa yksi agentti hoitaa asian. Moniin verkkotunnuksiin vaikuttavissa monimutkaisissa ongelmissa agentit muodostavat tilapäisiä koalitioita...valiokunnat se on olemassa vain sen verran kauan, että ongelma ratkeaa, ja sitten hajoaa.

Simple Request: "Generate a user name"
  → Single agent handles it

Complex Request: "Generate a complete e-commerce product with specs, pricing,
                  inventory, shipping, reviews, and related products"
  → Temporary coalition forms:
     - Specs specialist
     - Pricing analyst
     - Inventory manager
     - Marketing writer
     - Review generator
  → They communicate, negotiate consistency, produce comprehensive output
  → Committee dissolves

Järjestelmä sopeuttaa rakenteensa ongelmaan, ei selkeän ohjelmoinnin kautta, vaan niiden agenttien kautta, jotka tunnistavat tarvitsevansa apua ja pyytävät sitä muilta.

Omaisuus 3: Kollektiivinen ongelmanratkaisu

Kiehtovin ominaisuus: kollektiivi voi ratkaista ongelmia, joita yksikään yksittäinen agentti ei ymmärrä.

Harkitkaa sellaisen monimutkaisen aineiston tuottamista, jonka on täytettävä useita rajoitteita:

• Tekninen tarkkuus (agentti A:n verkkotunnus)
• Liiketoimintalogiikan johdonmukaisuus (agentti B:n verkkotunnus)
• Sääntelyn noudattaminen (asiamies C:n toimiala)
• Käyttäjäkokemukseen liittyvät näkökohdat (Agent D's domain)

Yksikään yksittäinen agentti ei ymmärrä kaikkia neljää verkkoaluetta, mutta viestinnän kautta:

1. Agentti A tuottaa teknisesti tarkkoja tietoja
2. Agentti B arvioi, havaitsee liikelogiikan loukkauksia
3. Agentti C arvioi, löytää sääntöjen noudattamiseen liittyviä ongelmia
4. Agentti D arvioi, löytää UX-ongelmia
5. He neuvottele muutokset, jotka täyttävät kaikki rajoitukset
6. Keskustelu jatkuu, kunnes kaikki agentit ovat samaa mieltä.

Ratkaisu syntyy keskustelusta, eikä yksikään yksittäinen agentti ole luonut sitä. kollektiivinen Ratkaisin sen.

Hivemindivaikutus

Täällä se alkaa tuntua oudolta.

Kun agentit kommunikoivat tehokkaasti, järjestelmässä on ominaisuuksia, joita ei ole missään yksittäisessä tekijässä:

Jaettu ymmärrys: Yksikään agentti ei ymmärrä koko ongelmaa, mutta verkosto yhdessä ymmärtää.

Vastasyntynyt konsensus: Neuvottelujen kautta agentit tekevät sopimuksia, jotka edustavat useiden näkökulmien synteesiä.

Mukautuva rakenne: Verkko organisoi itsensä uudelleen ongelmien monimutkaisuuden pohjalta – yksinkertaisen rakenteen yksinkertaisille ongelmille, monimutkaiset koalitiot monimutkaisille ongelmille.

Kollektiivinen muisti: Agentit jakavat ratkaisuja. Kun yksi agentti löytää hyvän lähestymistavan, muut oppivat siitä.

Se alkaa näyttää vähemmän "monilta agenteilta" ja enemmänkin yhdeltä jaetulta tiedustelulta.

Epämukava kysymys

Tämä pitää minut hereillä öisin:

Jos yksittäiset muurahaiset eivät ole älykkäitä, mutta siirtokunta on...

Jos yksittäiset neuronit eivät ole älykkäitä, mutta aivot ovat...

Jos yksittäiset agentit eivät ole erityisen fiksuja, mutta kollektiivi ratkaisee monimutkaiset ongelmat kommunikoinnilla...

Missä älykkyys oikeasti asuu?

Onko se agenteissa? kommunikaatiokuvioita heidän välillään?

Ehkä sinulla ei ole älykkyyttä. tietovirran ilmentymä.

Reaalimaailman esimerkki: komitean malli

Anna kun lasken tämän johonkin, mitä voisit oikeasti rakentaa:

async function solveComplexProblem(problem) {
  // Analyze complexity
  const complexity = analyzeComplexity(problem);

  if (complexity < 5) {
    // Simple: single agent
    return await singleAgent.solve(problem);
  }

  // Complex: form a committee
  const committee = formCommittee(problem);

  // Agents discuss the problem
  let solution = null;
  let consensus = false;
  let iteration = 0;

  while (!consensus && iteration < 10) {
    // Each agent proposes or critiques
    const proposals = await Promise.all(
      committee.map(agent => agent.contribute(problem, solution))
    );

    // Combine perspectives
    solution = synthesize(proposals);

    // Check if everyone agrees
    consensus = await checkConsensus(committee, solution);

    iteration++;
  }

  return solution;
}

Tämä koodi on yksinkertainen. käytös on hienostunut:

• Mukautetaan rakennetta ongelmien monimutkaisuuteen
• Agentit vaikuttavat ainutlaatuisiin näkökulmiinsa
• Iteratiiviset neuvottelut konsensukseen asti
• Monien näkökulmien yhteenveto

Yksikään yksittäinen agentti ei ratkaissut ongelmaa. keskustelu Ratkaisin sen.

Muurahaisista järjestöihin ja tekoälyihin

Malli on kaikkialla, kun sen näkee:

Muurahaisyhdyskunnat - Yksinkertaiset muurahaiset, monimutkainen kollektiivinen käyttäytyminen feromonikommunikaation kautta

Ihmisjärjestöt - Yksittäiset työntekijät, hienostunut organisaatiokyky tapaamisilla, sähköposteilla, Slackilla

Markkinat - Yksittäiset kauppiaat, nouseva hintalöytö tarjousten ja tarjousten kautta

Aivot - Yksittäiset hermosolut, tietoisuus synapsisen viestinnän kautta

Useita aineita sisältävä tekoäly - Yksittäiset LLM:t, strukturoidun viestinnän avulla syntynyt kollektiivinen älykkyys

Sama kuvio, eri asteikot, sama peruskäsitys:

Älykkyys voi syntyä ei-älykkäiden osien välisestä viestinnästä.

Mitä tämä merkitsee

Kun agentit viestivät:

• Erikoistuminen tulee luonnostaan esiin
• Rakenteet sopeutuvat ongelmiin
• Ratkaisut selviävät keskustelusta
• Kollektiivista tulee yksilöitä älykkäämpi

Tämä ei ole vain "parempaa suoritusta". laadullinen muutos siinä, mihin systeemi pystyy.

Sekventiaalinen käsittely: hienostunut käytös yksinkertaisista säännöistä

Kollektiivinen viestintä: simppelien toimijoiden adaptiivista älykkyyttä

Mutta tässä on ongelma

Toistaiseksi olemme olettaneet, että nämä agentit ovat staattisia, heillä on kiinteät kyvyt, kiinteä tieto, kiinteät strategiat.

Mutta entä jos he voisivat? parantaa itseään?

Entä jos agentit voisivat:

• Analysoivat omaa suoritustaan
• Kirjoita oma päätöslogiikka uudelleen
• Spawn uusia asiantuntijoita, kun he havaitsevat kuvioita
• Prune tehottomia strategioita
• Rakenna yhteinen muisti siitä, mikä toimii

Entä jos järjestelmä pystyisi siihen? optimoi itse?

Silloin "kollektiivinen älykkyys" alkaa näyttää oppiminen.

Ja kun "oppiminen" alkaa näyttää evoluutio.

Ja kun ei enää erota "hyvin kehittynyttä optimointia" ja "todellista älykkyyttä" toisistaan.

Sinne me seuraavaksi menemme.

Jatka Osa 3: Omavaraisuus - Oppivat järjestelmät

Kun tutkimme järjestelmiä, jotka kirjoittavat uudelleen omaa koodiaan, tuottavat omia asiantuntijoitaan ja huomaamme, että optimaalinen ratkaisu on yksinkertaisempi kuin mihin he ovat ryhtyneet.

Sarjanavigointi:

• Osa 1: Yksinkertaiset säännöt, monimutkainen käytös - Perustus
• Osa 2: Kollektiivinen tiedustelu ← Olet täällä
• Osa 3: Omavaraisuus - Järjestelmät, jotka parantavat itseään
• Osa 4: Läsnäolo - Kun optimoinnista tulee älyä
• Osa 5: Kehitys - Optimoinnista guldeneihin ja kulttuuriin
• Osa 6: Maailmanlaajuinen konsensus - Ohjattu evoluutio ja planeettakognitio
• Osa 7: Tosi otus! Itse asiassa sen rakentaminen ja sen kehityksen seuraaminen
• Osa 8: Työkalut kaikkialle alas - Itsekeskeinen työkalupakki
• Osa 9: Itseparannustyökalut - Linjatietoinen karsinta ja toipuminen