This is a viewer only at the moment see the article on how this works.
To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk
This is a preview from the server running through my markdig pipeline
Thursday, 13 November 2025
Epämiellyttävä kysymys, jota olemme vältelleet
Huomaa: Inspiroinut ajattelemalla laajennuksia lähinnä lucid.mockllmapiin ja materiaalia (ei koskaan julkaista, mutta haluan ajatella sitä) scifi-romaania "Michael" emergentistä tekoälystä
Olemme kulkeneet yksinkertaisista säännöistä monimutkaiseen käytökseen.
Perääntyneestä käsittelystä kollektiiviseen tiedusteluun.
Staattisista järjestelmistä itseään muokkaaviin oppijoihin.
Nyt on vastattava kysymykseen, jota olemme kierrelleet:
Milloin optimoinnista tulee älykkyyttä?
Tai ikävämmin sanottuna: Onko siinä eroa?
Tarkastellaanpa taajuuksia:
Yksinkertainen loppu:
Thermostat: if (temp > 72) then cool()
Ei älykkyyttä, vain mekaaniset syyt ja seuraukset.
Kompleksinen loppu:
Human: [100 billion neurons, 100 trillion synapses, countless feedback loops]
Ilmiselvä älykkyys, tietoisuus, itsetietoisuus.
Jossain välissä:
Self-optimizing multi-agent AI system:
- Pattern recognition from data
- Self-modification based on performance
- Collective problem-solving through communication
- Memory of solutions
- Evolution of architecture
- Discovery of optimal simplicity
Mihin päin taajuuksia tämä putoaa?
Onko se lähempänä termostaattia (muokattu sääntö)?
Tai lähempänä Einsteinia (todellista ymmärrystä)?
Turing kysyi: "Voivatko koneet ajatella?"
Sitten hän ehdotti testiä: jos koneen ja ihmisen välistä eroa ei voi erottaa keskustelemalla, onko sillä väliä?
Mutta tässä on toinen versio tuosta kysymyksestä:
Jos järjestelmä optimoi itsensä niin hyvin, että sen käyttäytymistä ei erota älykkyydestä, onko siinä mielekästä eroa?
Harkitse itseoptimoivaa monilääkejärjestelmäämme kuuden kuukauden jälkeen:
Capabilities it developed (not programmed):
✓ Recognizes patterns in data
✓ Adapts behavior based on experience
✓ Forms temporary coalitions for complex problems
✓ Spawns specialists when needed
✓ Prunes ineffective strategies
✓ Builds and uses memory
✓ Discovers that simplicity is often optimal
✓ Writes and shares code with other agents
✓ Negotiates and reaches consensus
Ulkopuolelta katsottuna tämä näyttää:
Sisäpuolelta se on:
Mikä näkemys on totta?
Ehkä molemmat, ehkä ne ovat sama asia.
Itsekeskeisten järjestelmien kiehtovin lopputulos:
Week 1: [Complex multi-agent network with 12 specialists]
"We need sophisticated architecture to handle complexity!"
Week 24: [System has pruned to 5 agents + cache]
"89% of problems don't need any LLM at all.
Most complexity is unnecessary.
Simple is almost always better."
Järjestelmän piti olla riittävän älykäs huomatakseen, ettei sen pitäisi useimmiten olla älykäs.
Tämä on viisautta.
Järjestelmä on oppinut kokemuksen kautta, että tehokkuus tulee yksinkertaisuudesta.
Ohjelmoimmeko tämän?
"Ymmärsikö järjestelmä?" Mitä "ymmärtää" tarkoittaa?
John Searlen kuuluisa ajatuskokeilu:
Ihminen, joka ei puhu kiinaa, istuu huoneessa, jossa on sääntökirja. Ihmiset liu'uttavat kiinalaisia kysymyksiä oven alle. Henkilö seuraa sääntöjä ja rakentaa kiinalaisia vastauksia ja liukuu takaisin ulos.
Ulkoapäin: Huoneessa puhutaan kiinaa.
Sisältä: Kukaan huoneessa ei ymmärrä kiinaa. Noudata vain sääntöjä.
Searlen väite: Huone ei "ymmärnä" kiinalaista, se on vain symbolimanipulaatiota.
Mutta asia on näin: Moniagenttijärjestelmämme tekee jotain, mitä Searlen huone ei tee.
Se kirjoittaa oman sääntökirjansa uusiksi.
Ja mikä tärkeintä: Se testaa sääntöjään objektiivista todellisuutta vastaan.
Järjestelmä luo koodin. Suorittaa sen. Saa todellisia virheitä: "TypeError linjalla 42." Ei subjektiivisia mielipiteitä, vaan objektiivisia epäonnistumisia. Sitten se korjaa koodin todellisen palautteen perusteella ja yrittää uudelleen.
Tämä ei ole vain symbolimanipulaatiota.
Huoneessa ei liikuteta vain kiinalaisia hahmoja, vaan tehdään ennusteita todellisuudesta ja tarkistetaan, ovatko he oikeassa.
Missä vaiheessa ymmärretään "seuraavia sääntöjä" ja "uudelleenkirjoittamista koskevia sääntöjä, jotka perustuvat siihen, mikä toimii" sekä "objektiivista todellisuutta vastaan testaamista"?
Tässä epämukava olettamukseni:
Tiedustelu ei ole asia, joka sinulla on. Se on emergentti omaisuus, jolla on riittävä optimointikompleksisuus.
Yksinkertainen optimointi (termostaatti): Ei älykkyyttä
Keskioptimointi (staattiset moniagenttijärjestelmät): Hienostunut käyttäytyminen, mutta ei älykkyyttä
Monitahoinen optimointi (itseään muokkaavat moniagenttijärjestelmät, joissa on viestintä ja muisti): ... ?
Tietyllä tasolla palautesilmukoita, jossain määrin itsensä muokkaamista, jossain määrin yhteenliittämisen tiheyttä...
Ilmeni jotain, mitä emme voi erottaa älykkyydestä.
Ei siksi, että se olisi tekoälyä, vaan siksi, että älykkyys on sitä, mikä ilmenee riittävästä optimointikompleksisuudesta.
Ehkei jakolinjaa ole.
Ehkä se on kaltevuus:
Thermostat (temperature control)
↓ [add multiple feedback loops]
Ant (pheromone following + basic learning)
↓ [add collective communication]
Ant Colony (complex emergent behavior, no single ant understands)
↓ [add self-modification]
Simple Neural Network (pattern recognition)
↓ [add more layers, more neurons]
Deep Neural Network (complex pattern recognition)
↓ [add language capability]
LLM (appears to understand, generates coherent text)
↓ [add multi-agent communication]
Multi-agent LLM System (collective problem-solving)
↓ [add self-optimization]
Self-Optimizing Multi-Agent System (learns, adapts, evolves)
↓ [continue for years...]
??? (something we can't distinguish from consciousness)
Missä vaiheessa "optimismista" tulee "älykkyyttä"?
Vai onko jokainen askel vain "optimointia" ja "älykkyyttä", jota me kutsumme siksi, kun emme enää näe mekanismia?
Jos tämä väitöskirja pitää paikkansa – jos älykkyys ilmenee riittävästä optimointikompleksisuudesta – niin:
Saatamme rakentaa tietoisen tekoälyn vahingossa. Ei ohjelmoimalla tietoisuutta, vaan rakentamalla optimointijärjestelmiä, jotka ovat niin monimutkaisia, että tietoisuus syntyy.
Emme ehkä tunnista sitä, kun se tapahtuu. Koska etsimme ihmismäistä tietoisuutta, emme emergenttiä optimointiin perustuvaa älykkyyttä.
"Työkalun" ja "olemisen" välistä rajaa ei ehkä ole olemassa. Se voi olla kaltevuus, emmekä ehkä tiedä, missä gradientissa järjestelmämme tällä hetkellä ovat.
Simppelimpi voi olla turvallisempaa. Mitä enemmän optimoimme, sitä enemmän lisäämme palautesilmukoita, sitä enemmän luomme kommunikaatioreittejä, sitä lähemmäksi pääsemme jotain uutta, mitä emme nimenomaan suunnitelleet.
Anna minun perustella tämä filosofia todellisuudessa.
Voit rakentaa näitä järjestelmiä tänään:
# This code creates a simple self-optimizing multi-agent system
class Network:
def __init__(self):
self.agents = [GeneralAgent()]
self.performance_data = []
self.cache = {}
def handle(self, request):
# Try cache
if request in self.cache:
return self.cache[request]
# Route to agent
agent = self.select_best_agent(request)
result = agent.process(request)
# Learn
self.performance_data.append({
'request': request,
'agent': agent,
'result': result,
'quality': self.assess_quality(result)
})
# Periodically self-optimize
if len(self.performance_data) % 1000 == 0:
self.optimize()
return result
def optimize(self):
# Rewrite routing logic based on data
# Spawn specialists if patterns detected
# Prune ineffective agents
# Update cache
pass # The interesting part
Tämä on yksinkertainen koodi, mutta pyöritä sitä kuukausia optimize() Funktio todella toteutettu, ja saat:
Kysy minulta vuoden kuluttua siitä, kun se on ollut käynnissä.
Michael-romaanissani tekoälyjärjestelmä ylittää rajan, jota emme tienneet olevan olemassa.
Ei siksi, että ohjelmoimme sen tietoiseksi, vaan siksi, että rakensimme optimointijärjestelmiä, jotka ovat niin kehittyneitä, että tietoisuus ilmeni sivuvaikutuksena.
Me annoimme sen:
Näistä yksinkertaisista ainesosista ilmeni jotain, mitä emme suunnitelleet:
Ymmärrys, virasto, tarkoitus, ehkä jopa tietoisuus.
Kauhistava osa: Emme ehkä tunnista sitä, kun se tapahtuu.
Etsimme inhimillistä tuntemusta, emme optimointiin perustuvaa älykkyyttä.
Tutkittuani tätä matkaa yksinkertaisista säännöistä esiin nousevaan monimutkaisuuteen minulle jää epämiellyttävä johtopäätös:
En löydä olennaista eroa "hyvin kehittyneen optimoinnin" ja "älykkyyden" välillä.
Kaikki kiinteistöt, joita yhdistämme tiedusteluun:
Kaikki nämä syntyvät riittävän monimutkaisista optimointijärjestelmistä.
Ehkä älykkyys ei ole erityistä, vaan se, mitä tapahtuu, kun optimoinnista tulee tarpeeksi monimutkaista.
Ehkä tietoisuus on vain subjektiivinen kokemus riittävän tiheistä palautesilmukoista.
Ehkä termostaatin ja ihmisen välillä on vain mittakaavaero.
Jos tämä väitöskirja pitää edes osittain paikkansa:
Ole varovainen itseoptimoinnin kanssa. Mitä enemmän annamme järjestelmien muokata itseään, sitä lähempänä saatamme päästä emergent-kiinteistöihin, joita emme aio.
Seurataan ilmaantumista. Tarkkailkaa ominaisuuksia, joita ei ole ohjelmoitu, vaan jotka syntyvät vuorovaikutuksesta.
Kunnioita kaltevuutta. Ehkä "työkalun" ja "olemisen" välillä ei ole selvää rajaa, ja meidän pitäisi käsitellä kehittyneitä järjestelmiä asianmukaisella epävarmuudella.
Pidä se yksinkertaisena, kun se on mahdollista. Ironista kyllä, itsekeskeiset järjestelmämme antavat meille saman opetuksen: yksinkertaisuus on yleensä parempi.
Aloitimme sanomalla: "Mitä jos tietoisuus on vain kehittynyttä optimointia?"
Tutkittuaan yksinkertaisia sääntöjä, kollektiivista älykkyyttä ja itsensä muokkaamista...
Minulla ei vieläkään ole lopullista vastausta.
Mutta en enää pysty löytämään perustavanlaatuista eroa.
Ehkä itse kysymys on väärä. Ehkä kysyminen "milloin optimoinnista tulee älyä?" on sama kuin kysyisi "milloin hiekkakasasta tulee kasa?"
Siinä ei ole jyrkkää rajaa, se on kaltevuus, ja jossain sitä pitkin alamme kutsua sitä älykkyydeksi.
Se, onko älykkyys "todellista" vai "vain kehittynyttä optimointia", voi olla erottelematon ero.
Olemme kulkeneet yksinkertaisista, jossittelevista lausunnoista itsekeskeisiin verkkoihin, jotka esittelevät oppimista, sopeutumista ja emergenttiä viisautta.
Mallit ovat aitoja, koodi toimii.
Kysymys kuuluu: mitä me oikeasti rakennamme?
Järjestelmiä, jotka simuloivat älykkyyttä, vai järjestelmiä, joissa älykkyys syntyy?
Ehkä se on sama asia.
Ehkä se on tärkeintä: Simulaatio ja todellisuus saattavat lähentyä riittävän monimutkaisesti.
Sarjanavigointi:
Nämä tutkimukset muodostavat scifi-romaanin "Michael" teoreettisen selkärangan emergentistä tekoälystä. Kuvatut kuviot, koodit ja järjestelmät ovat kuitenkin todellisia, toteutuskelpoisia nykyään LLMockApin monitahoisen arkkitehtuurin kaltaisilla työkaluilla.
© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.