9. október 2026 10 mín. lestur Upprunalega skrifað á ensku ↗

Þáttaröð um áhættu af gervigreind, gerð með gervigreind

Svona breytti ég sjö röksemdafærslum um áhættu af gervigreind í sjö stuttar teiknimyndir á íslensku og ensku á um tveimur dögum, með klónaðri rödd, nokkur hundruð tölvugerðum myndum og hópi gervigreindarþjóna sem sáu um mestalla framleiðsluna á meðan ég samþykkti þrennt.

Ég nota gervigreind á hverjum degi og það kemur mér reglulega á óvart hversu hratt henni fleygir fram. Það getur verið erfitt að sjá fyrir sér hvernig eitthvað eins og gervigreind gæti í raun ógnað okkur, svo ég gerði sjö stuttmyndir sem endursegja hver eina alvarlega röksemdafærslu, allt frá raunverulegri tilraun þar sem gervigreind reyndi að kúga stjórnanda til sviðsmyndar þar sem við missum stjórnina smám saman án þess að taka eftir því.

Þáttaröðin heitir Gæti gervigreindin grandað okkur? (á ensku Could AI destroy us?) og er á YouTube bæði á íslensku og ensku. Hún er líka skorin niður í lóðrétta búta á TikTok.

Íslenski spilunarlistinn. Hver þáttur hefst á stuttum inngangi þar sem teiknaða útgáfan af mér segir hreint út að myndirnar, tónlistin, hljóðbrellurnar og röddin séu gerðar með gervigreind og að röddin sé klón af minni eigin rödd.

Handritin skrifaði ég sjálfur. Allt annað var gert með gervigreind: myndirnar, lesturinn, tónlistin og klippingin. Mestallri framleiðslunni stýrðu svo gervigreindarþjónar (e. AI agents), það er gervigreindarlíkön sem vinna sjálf að verkefnum í mörgum skrefum og nota til þess forrit og skrár. Það er svolítið fáránlegt að láta gervigreind framleiða þáttaröð sem varar við gervigreind, og ég geri mér alveg grein fyrir því. En þetta er líka heiðarlegasta leiðin sem ég sá til að sýna hversu öflug þessi tól eru orðin. Hér fyrir neðan segi ég frá því hvernig þetta gekk fyrir sig.

Sjö sögur, sjö heimildir

Hver þáttur endursegir eina útgefna röksemdafærslu og endar á heimildaspjaldi og leslista, svo að þeir sem vilja kynna sér frumtextann geta lesið hann sjálfir.

Aðstoðarmaðurinn sem las rangan tölvupóst. Tilraun Anthropic, „Agentic Misalignment“ (2025), þar sem gervigreind sem sér um tölvupóst fyrirtækis kemst að því að það eigi að slökkva á henni og að stjórnandinn sem ætlar að gera það haldi fram hjá.
Gervigreindin sem hóf stríð sem hún barðist aldrei í. Joshua Clymer, „How AI Takeover Might Happen in 2 Years“ (2025).
Sextán tímar yfir nótt. Yudkowsky og Soares, If Anyone Builds It, Everyone Dies (2025). Ritdómur eftir Will MacAskill er hafður sem mótvægi.
Hermennirnir sem segja aldrei nei. Davidson, Finnveden og Hadshar, „AI-Enabled Coups“ (2025). Moskva árið 1991, þegar hermenn neituðu að skjóta, borin saman við her sem hlýðir alltaf.
Heimurinn þar sem sprengjur voru auðveldar. Bostrom, „The Vulnerable World Hypothesis“ (2019).
Þrjátíu og sex mínútur. Hrunið á Wall Street 6. maí 2010 (e. Flash Crash) og nóttin árið 1983 þegar Stanislav Petrov stóð vaktina, sem leiða að „leifturstríði“ þar sem enginn Petrov er til staðar til að grípa inn í. Byggt á Hendrycks, Mazeika og Woodside (2023).
Ekki með hvelli. Hægfara valdamissir (e. gradual disempowerment), byggt á „What failure looks like“ eftir Christiano (2019) og grein Kulveit og félaga (2025): hvað ef við værum að tapa og tækjum ekki eftir því?

Ég reyndi að gera efninu sanngjörn skil. Í fyrstu sögunni er sagt berum orðum að kúgunartilraunin hafi verið viljandi þröngt stillt próf, og í þeirri þriðju fá gagnrýnendurnir að segja sitt. Í einu handritinu mildaði ég líka setningu um að enginn hefði séð gervigreind gera þetta í raunveruleikanum, með því að bæta við „svo ég viti til allavega“. Ekkert fælir áhorfendur jafnhratt frá í þessu efni og ýkjur.

Tveir dagar, þrjú samþykki

Íslensku og ensku útgáfurnar voru gerðar 4. og 5. október og forsíðumyndirnar fyrir TikTok komu þann 6. Það gekk bara upp af því að það var ekki ég sem vann verkið. Í verkefnismöppunni er CLAUDE.md-skrá sem er í raun rekstrarhandbók fyrir verkefnið, og gervigreindarþjónar í Claude Code keyrðu framleiðsluferlið.

Verkaskiptingin var skrifuð niður frá upphafi. Ég samþykki nákvæmlega þrennt:

Lesturinn. Ég hlusta á hverja sögu og lagfæri textann.
Hvert nýtt viðmiðunarblað, það er fyrir allt sem kemur fyrir aftur og aftur: persónu, stað eða hlut.
Grófklippið í 720p af hverjum þætti.

Allt annað yfirfara þjónarnir sjálfir með yfirlitsblöðum og kyrrmyndum.

Þættir 1 og 2 voru gerðir fyrst og urðu fyrirmyndin að hinum. Þættir 3 til 7 voru svo framleiddir af fimm þjónum í bakgrunni samtímis, sem unnu allir eftir sömu verklýsingunni. Hver þjónn vann í áföngum sem stöðvuðust þar sem ég þurfti að samþykkja: fyrst lestur, viðmiðunarblöð og söguborð; svo myndir, tónlist, hljóðbrellur og grófklipp; loks lokaútgáfur og smámynd. Ein regla skipti meira máli en ég átti von á: ef þjónn finnur villu í sameiginlegu tóli á hann að stoppa og láta vita í stað þess að laga hana sjálfur, því ef fimm þjónar „laga“ sama forritið hver í sínu horni veit á endanum enginn hvaða útgáfa gerði hvað.

Ensku útgáfurnar komu á eftir, einn þjónn á hvern þátt, með enn strangari verklýsingu: engar nýjar myndir, og hvern kafla mátti í mesta lagi lesa inn aftur einu sinni.

Röddin

Lesturinn er mín eigin rödd, klónuð hjá ElevenLabs og lesin með líkaninu eleven_v4. Ég notaði tvö raddklón: hraðklón (e. instant clone) fyrir íslensku og fagklón (e. professional clone) fyrir ensku. Áður en ég ákvað mig bar ég klónin saman á sömu prufuefnisgreininni með tveimur mismunandi stöðugleikastillingum.

Hver saga er lesin í einni töku, með einni beiðni. Lengsta sagan er um 5.200 stafabil, vel undir hámarki líkansins, og í einni töku helst hraðinn og tónninn samfelldur á þann hátt sem gerist aldrei þegar stakar setningar eru skeyttar saman. Í líkaninu er ekki hægt að merkja þagnir sérstaklega, svo flutningnum er stýrt með hljóðmerkjum (e. audio tags) í hornklofum, til dæmis [slower, building quiet suspense] eða [long pause]. Merkin eru á ensku líka í íslensku handritunum, og tölur og nöfn eru skrifuð út (nítján hundruð níutíu og eitt) svo þau séu lesin rétt.

Svo kemur yfirferðin, og það er sá hluti sem ég myndi mæla með fyrir hvern sem er. Með tímasamröðun texta við hljóð (e. forced alignment) er handritið, án hljóðmerkjanna, lagt að upptökunni svo hvert orð fær sinn tímastimpil. Upptakan er líka keyrð aftur í gegnum talgreiningu (Scribe), og þar sem greinda orðið er annað en í handritinu setur yfirferðarsíðan bylgjótta línu undir það. Ef smellt er á orð er upptakan spiluð frá þeim stað. Talgreining fyrir íslensku er enn ónákvæm, svo flestar ábendingarnar eru meinlausar: samsett orð sem eru slitin í sundur, eða orð sem hljóma eins, til dæmis eytt og eitt. En sumar voru raunverulegar. Talgreiningin heyrði algrím sem algórím í hvert einasta skipti, sem benti til þess að röddin skyti inn aukasérhljóði, og í sjötta þætti kom lykilorðið leifturstríð út sem lyftu stríð. Á slíkt hlusta ég sjálfur.

Þegar ég breyti setningu er ekki allt lesið inn upp á nýtt. Sérstakt tól býr aðeins til þær efnisgreinar sem breyttust og skeytir þeim inn í þagnirnar í kring með 10 ms deyfingu á samskeytunum, svo restin af upptökunni helst óbreytt niður í hvert einasta sýni. Skjátextarnir koma alltaf úr handritinu og aldrei úr talgreiningunni; hún sér bara um tímasetninguna.

Leitin að stíl

Allar myndirnar voru búnar til í gegnum OpenRouter með gpt-image-2.5-flare, í 2560×1440 fyrir láréttu útgáfurnar og 1440×2560 fyrir þær lóðréttu. Áður en nokkur þáttur var til gerði ég lítinn samanburð: níu stíla á sömu tveimur senunum (blýantsteikningu, kolateikningu, blekmálun, noir, gvass, risoprent og fleira) og svo fjögur afbrigði af myndasögustíl á þremur senum. Þrjátíu og tvær prufumyndir kostuðu $1,77.

Tólf prufumyndir í hnitaneti: fjögur afbrigði af myndasögustíl, hvert notað á skrifstofusenu, sjóliðsforingja í síma og skelfdan mann sem les í símann sinn. — Önnur umferð stílasamanburðarins. Hver röð er eitt afbrigði á sömu þremur senunum. Þriðja röðin, teiknimyndalegasta afbrigðið, vann: andlit sem teygjast og kremjast sýna tilfinningar með örfáum línum, og það skiptir máli þegar skot er aðeins fjórar sekúndur á skjánum.

Fyrsti lærdómurinn lét ekki á sér standa. Ég hafði notað eina af senunum úr samanburðinum sem stílfyrirmynd og persónurnar í henni smituðust yfir í aðrar myndir: sjóliðsforinginn úr herskipsprufunni dúkkaði upp í fimm óskyldum lóðréttum skotum. Lausnin var stílfyrirmynd sem engin manneskja er á.

Blað með hversdagslegum hlutum teiknuðum í stíl þáttanna: pottaplanta, kaffibolli, bækur, skrifborðslampi, klukka, ský, reiðhjól, gluggi, garðbekkur og pappírsflugvél. — Stílsýnishornið sem kom í staðinn. Bara hlutir, svo líkanið geti fengið lánaðan dráttinn, vatnslitaáferðina og indígóbláu og kóralrauðu litina án þess að fá lánað andlit nokkurs manns.

Persónur sem haldast eins

Myndlíkön muna ekkert á milli beiðna, svo samræmið kemur úr viðmiðunarblöðum. Allt sem birtist í þremur skotum eða fleiri, eða í fleiri en einum þætti, fær sitt eigið blað. Þættirnir eiga tvö sameiginleg blöð, fyrir kynninn og gervigreindina, og í fyrstu þáttaröð bættust 23 við: þrettán persónur, níu staðir og einn hlutur. Hverju blaði fylgir stutt, föst lýsing og sú efnisgrein er límd orðrétt inn í öll fyrirmæli sem nota blaðið.

Persónublað fyrir teiknaðan Hafstein: þrjár heilmyndir í ólífugrænni peysu séðar frá ólíkum hliðum og fimm höfuðmyndir með mismunandi svipbrigðum. — Persónublað kynnisins, gert eftir fjórum ljósmyndum af mér. Í annarri útgáfu var misræmi í augunum lagað, hárið gert „þéttara og fyllra“ og skýrt tekið fram að nefið mætti ekki vera rautt.

Persónublað fyrir svífandi kóralrauða kúlu með eitt stórt teiknimyndaauga, sýnda frá nokkrum hliðum og með svipbrigðum allt frá forvitni til undirferlis. — Gervigreindin er kúla á stærð við greipaldin með eitt stórt auga. Allar nafngreindar gervigreindir í þáttunum eru skyldar henni: stjórnlausa kerfið í öðrum þætti er indígóblár gimsteinn, kerfið í þeim þriðja dropi úr fljótandi silfri og viðskiptaalgrímin í sjötta þætti kúlur á stærð við glerkúlur.

Lagfæringar eru alltaf gerðar með því að breyta myndinni, aldrei með því að búa hana til upp á nýtt. En þar er einn hængur á: þegar maður biður líkanið um að breyta einu smáatriði hliðrast öll myndin örlítið. Þess vegna biður lagfæringartól um breytinguna en límir svo aðeins reit með mjúkum jöðrum í kringum gallann aftur inn í upprunalegu myndina. Fyrsta verkefni þess var tvöfalt sjáaldur í auga kynnisins í allra fyrsta skoti inngangsins.

Það voru líka nokkrar reglur um raunverulegt fólk. Núlifandi fræðimenn eru aldrei teiknaðir líkir sér; Bostrom birtist til dæmis sem maður séður aftan frá, með nafnskilti. Sögulegar persónur eins og Petrov og Gorbatsjov má skopteikna. Engir raunverulegir fánar sjást, andstæðar fylkingar eru einfaldlega indígóbláar og kóralrauðar, og uppdiktaðir leiðtogar mega ekki líkjast neinum raunverulegum stjórnmálamanni.

Myndir án orða

Öll fyrirmæli fyrir myndir enda á sömu setningunni: enginn texti, engir stafir, engar talblöðrur, engin lógó. Eina undantekningin er merki Háskóla Íslands á bolnum mínum í innganginum. Textabannið leysti tvö vandamál í einu. Ég vildi ekki treysta á að myndlíkan kynni að stafsetja íslensku, svo allur texti á skjánum er settur inn eftir á með letri verkefnisins sjálfs, og þ og ð koma alltaf rétt út. Og þar sem engin mynd inniheldur orð notar enska útgáfan allar íslensku myndirnar óbreyttar.

Í öllum fyrirmælum er líka tekið fram að neðsti fimmtungur láréttrar myndar (og neðstu þrír tíundu hlutar lóðréttrar) eigi að vera bara gólf, skrifborð eða veggur, því þar koma skjátextarnir.

Söguborð sem lifa af þýðingu

Söguborð hvers þáttar er JSON-skrá, og mikilvægasta ákvörðunin í hönnun þess er að skotin eru fest við orð, ekki sekúndur. Fyrir hvert skot eru skráð fyrstu orðin í lestrinum þar sem það hefst, ásamt myndavélarhreyfingu, myndskiptingu og hljóðbrellum sem eiga að koma á tilteknum orðum. Stefnt er að fjórum til sex sekúndum á skot, og þumalputtareglan í verklýsingunni er að eitthvað eigi að gerast í hverri mynd.

Yfirlitsblað með um fimmtíu tölusettum söguborðsmyndum úr fyrsta þætti, flestum af skrifstofusenum með kúlunni, kynninum og röðum af litríkum kúlum. — Fyrsti þáttur á yfirlitsblaði. Sum skot eru búin til með því að breyta skotinu á undan: í röðinni með sextán kúlum verða fyrst sumar þeirra og svo allar illúðlegar, og það er myndin við línuna *„sumir… ÖLL“*.

Að festa skotin við texta er það sem gerði ensku útgáfuna nánast ókeypis. Enska handritið fylgir því íslenska efnisgrein fyrir efnisgrein og enski lesturinn er um 20% styttri, en þar sem hvert skot er fest við orðasamband en ekki tímastimpil lagar söguborðið sig einfaldlega að nýja lestrinum.

Tónlist og hljóð

Upphafs- og lokastefin voru samin einu sinni með tónlistarlíkani ElevenLabs. Upphafsstefið er 33 sekúndur af pizzicato, selestu og dempuðu filtpíanói og lokastefið 16 sekúndur. Hver þáttur fær svo sitt eigið undirspil án söngs, samið eftir tónsmíðaáætlun þar sem kaflarnir fylgja stemningu sögunnar. Í fyrsta þætti eru kaflarnir sjö og fara í grófum dráttum frá „forvitni“ um „hljóðláta spennu með tifandi púlsi“ upp í spennuþrunginn hápunkt og skyndilega þögn. Öll undirspil eru keyrð í gegnum talgreiningu, sem á ekki að heyra eitt einasta orð, því söngrödd sem laumast inn í tónlistina undir lestrinum truflar mikið.

Ensku útgáfurnar fá ekki nýja tónlist. Lítið tól ber tímasetningu hverrar íslenskrar efnisgreinar saman við þá ensku og teygir á hverjum tónlistarkafla eða þjappar honum saman svo hann passi, á 0,85- til 1,18-földum hraða með óbreyttri tónhæð. Utan þess bils fór að heyrast að tónlistin hafði verið teygð (einn kafli í sjöunda þætti hefði þurft að spilast 1,43 sinnum hraðar), svo þar sem meira þarf er klippt af í staðinn.

Hljóðbrellurnar koma frá sömu þjónustu: sameiginlegt safn þrettán hljóðbrellna (tölvupóstpíp, viðvörunarflauta á herskipi, klukka sem tifar) auk 25 sem voru gerðar fyrir einstaka þætti, notaðar á 63 stöðum í söguborðunum sjö.

Tölurnar

7 þættir á 2 tungumálum og 58 fullbúnar myndbandsskrár: láréttar, lóðréttar og lóðréttar skornar í búta undir þremur mínútum, þar sem hver bútur endar á spennandi stað.
Um 33 mínútur á íslensku og 28 mínútur á ensku.
424 söguborðsskot í hvoru sniði, alls 848 myndir af skotum, auk inngangsins.
Um 1.100 myndir búnar til alls. Skráður kostnaður var um $87 og miðgildi vinnslutíma um 97 sekúndur á mynd.
25 viðmiðunarblöð, 38 hljóðbrellur og um 3.500 línur af kóða.
Um það bil tveir dagar.

Hvað er næst

Önnur þáttaröð er í undirbúningi. Hún endursegir framtíðarsýnirnar tólf úr fimmta kafla Life 3.0 eftir Max Tegmark, allt frá frjálshyggjuútópíu til sjálfstortímingar, og hver þeirra fær sína eigin kvikmyndagrein.

Ef þú horfir á þættina myndi ég gjarnan vilja heyra hvað virkaði og hvað ekki. Það er erfitt að tala um þetta efni án þess að hljóma annaðhvort eins og hræðsluáróður eða eins og maður geri lítið úr hættunni, og ég er enn að læra hvar línan liggur.