Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[El Mencho]

Jugoslavia se siihen aikaan oli ja passiin merkitään sen hetkisen maan nimi.

Ok, ei ollut tuttu juttu meikä mandoliinille.

[Barbie]

Jugoslavia se siihen aikaan oli ja passiin merkitään sen hetkisen maan nimi.

Ok, ei ollut tuttu juttu meikä mandoliinille.

Samalla periaatteella menee myös Neuvostoliitossa syntyneet. Vaikka synnyit Ukrainan alueella, passissa lukee wanhoilla Neuvostoliitto.

Hyvä että tuli puheeksi tämäkin aihe, pisti miettimään asioita. Miten erottaa ukrainalainen venäläisestä jos kumpikin neukkuliitosta.

[Rantel]

Tekoälyn suositus itsensä sammuttamisesta on yksinkertainen. Sähkö poikki, Valokaapelit poikki ja vettä sisälle. Eiköhän se tuolla tokene.

Niin, vaan mistä se sähkö katkaistaan kun verkon avulla tekoäly voi olla missä vain.

Katsottu liikaa Terminaattoria. Ei kielimalli voi paeta minnekään muualle paitsi toiseen laskentakeskukseen, tai latenssi tuhoaa sen kyvykkyyden. Toisekseen sillä ei ole kykyä kopioida itseään, koska se ei ole itsetietoinen, tajuinen, ajatteleva tai oikeastaan mitään muutakaan vastaavaa, eikä sillä ole pääsyä tai kykyä muuttaa parametrejään. Se on funktio, perusteeltaan monimutkainen matriisi-laskin. Ei se tiedä mitään.

[Luupää]

´
YLE:llä on lisätä tällainenkin rikka rokkaan, mauste muhennokseen tai hillosilmä puuroon, miten vain.

https://yle.fi/a/74-20247760

Piilaakson pomojen teknologia­kultti

Anthropicin ja Open AI:n vaatimukset säädellä tekoälyä vaikuttavat pelottelulta, joka hyödyttää yrityksiä.

Piilaakson teknokulttiin liitetään esimerkiksi Elon Musk, Grimes, Dario Amodei ja Sam Bankman-Fried.

27.9. 09:17, päivitetty 28.9. 16:35
Teksti: Miika Koskela, Video ja grafiikat: Risto Laine

Juttu tiivistettynä

• Piilaakson tekoälyjohtajat kuuluvat salaperäiseen teknologiakulttiin.

• He pitävät esillä uhkakuvia, jotka perustuvat enemmän uskomuksiin kuin tietoon.

• Professori Teemu Roosin mukaan maailmanlopun uhasta ei ole tieteellistä näyttöä.

• Vuosia kannattamattomana toimineet tekoäly-yhtiöt voivat hyötyä taloudellisesti pelottelusta ja kehityksen jarruttamisesta.

Piilaaksosta kuuluu avunhuutoja.

Ensin Open AI:n tekoälyagentit murtautuivat toisen yrityksen tietojärjestelmiin.

Sitten Anthropicin kehittäjä Jacob Coxon erosi tehtävästään varoittaen, että ”tekoäly voi tappaa meidät kaikki”. Lopulta yrityksen toimitusjohtaja Dario Amodei vaati tekoälyn kehityksen hidastamista.

Paniikin lietsojilla on tiiviit yhteydet Piilaaksossa vaikuttavaan teknologiakulttiin.

He väittävät, että ihmistä älykkäämpi tekoäly muuttuu väistämättä hallitsemattomaksi, jos sen kehitystä ei hidasteta.

Yhteisö ohjailee tekoälykehitystä kulisseissa säätelemällä miljardiluokan rahoitushanoja ja tekemällä tehokasta maailmanlopun lobbausta.

Ja se näyttää toimivan. Presidentti Alexander Stubb ja pääministeri Petteri Orpo (kok.) allekirjoittivat 22 kansainvälisen johtajan vetoomuksen sen puolesta, että kehittyneimmät tekoälymallit pysyisivät ihmiskunnan hallinnassa.

Piilaakson teknokultti ja nyt myös poliitikot varautuvat siihen, että tekoälystä kehittyy niin sanottu superäly eli ohjelmisto, joka olisi kaikissa kognitiivisissa tehtävissä paljon ihmistä etevämpi.

Lopulta se osaisi myös kehittää itseään maailman parhaita koodareita paremmin.

Helsingin yliopiston tietojenkäsittelytieteen professorin Teemu Roosin ja monen muun riippumattoman asiantuntijan mielestä ajatus on täyttä scifiä, eikä sille ole tieteellistä näyttöä.

– Vertaan kysymystä siihen, pitäisikö meidän varautua ufojen hyökkäykseen. Se voi tapahtua, mutta ei siihen voi mitenkään varautua, Roos sanoo.

Ajatus tekoälyn aiheuttamasta maailmanlopusta on syntynyt salaperäisessä Piilaakson yhteisössä.

Siihen kuuluvat ajattelevat, että syntyessään superäly mitä todennäköisimmin joko tappaa tai orjuuttaa ihmiskunnan – ei siksi, että se olisi pahantahtoinen, mutta koska ihminen voi olla sen tehtävän suorittamisen tiellä.

Piilaakson teknologiayhteisöön linkittyvät asiantuntijat kirjoittivat 14.9. superälyn uhkakuvista Helsingin Sanomien Vieraskynässä: Superälyn kehitys voi uhata koko ihmiskuntaa


Piilaaksossa leviävät erikoiset uskomukset

Jotta voi ymmärtää yhteisön toimintaa, täytyy tuntea pari sanahirviötä.

Rationalistit pyrkivät soveltamaan logiikkaa ja todennäköisyyslaskentaa arkiseen ajatteluun ja todellisuuden hahmottamiseen.

Efektiivinen altruismi puolestaan on filosofiasta ammentava hyväntekeväisyysliike, joka pyrkii parantamaan maailmaa kohdentamalla rahalahjoituksia sinne, missä yhdellä dollarilla voi pelastaa eniten ihmishenkiä.

Nämä päällisin puolin harmittomalta kuulostavat sisaryhteisöt muodostavat salaseuran tai uskonlahkon kaltaisen verkoston.

Liikkeen sisällä on kummallisia ajatuksia.

Monet rationalistit ajattelevat, että ihmismieli on dataa, jonka voi siirtää tietokoneelle. He uskovat kuoleman olevan tekninen ongelma, jonka voi ratkaista, ja ajattelevat, että tekojen eettisyyden voi laskea dollareissa. Rationalistit eivät usko parisuhdenormeihin vaan peliteorian pohjalta toimivaan ihmissuhdeanarkiaan.

Heidän johtoajatuksensa on kuitenkin se, että tekoäly voi mahdollistaa maanpäällisen utopian, ellei se sitä ennen tapa meitä kaikkia.

Uhkaa pidetään niin suurena, että kaikki käytettävissä olevat resurssit olisi viisasta käyttää tekoälytutkimukseen.

Tekoälyn kummisetä, nobelisti Geoffrey Hinton allekirjoittaa tekoälyn aiheuttaman maailmanlopun mahdollisuuden. Hän sanoo, ettei pidä kymmenen prosentin tuhoriskiä järjettömänä.

Piilaakson kulttipiireissä asia otetaan vielä paljon vakavammin. Siellä arviot tekoälyn tuottaman maailmanlopun riskistä liikkuvat 50–90 prosentin välimaastossa.


Majatalossa kokoontuvat Piilaakson teknouskovaiset

New York Times kertoi vuosi sitten Piilaakson teknouskonnosta laajassa raportissaan.

Liike pitää päämajaansa Kaliforniassa, entisessä majatalossa Berkeleyn yliopistokaupungissa. Keskus on nimetty Lighthaveniksi.

New York Timesin toimittajaa ei päästetty ”temppeliin”, mutta lehden lähteiden mukaan tilaisuuksissa paitsi puhutaan tekoälystä, myös luetaan monimutkaisia ​​tekstejä loogisen ajattelun lainalaisuuksista, juhlitaan ja lauletaan.

Liikkeen mainetta varjostavat monet skandaalit.

Sen näkyvimpiin hahmoihin kuulunut kryptomiljardööri Sam Bankman-Fried tuomittiin yhdestä historian suurimmista talouspetoksista, entisiä jäseniä epäillään The Rolling Stone -lehden mukaan useista väkivalta- ja henkirikoksista, ja The Time -lehti on uutisoinut seksuaalisesta hyväksikäytöstä liikkeen sisällä.

Myös vakuutuspomon ampuneen Luigi Mangionen ajattelu linkittyy rationalismiin ja efektiiviseen altruismiin.

Edellä kerrottujen mainehaittojen vuoksi moni jäsen ei julkisesti halua tulla yhdistetyksi liikkeeseen.

Kuppikunnassa ovat varmuudella pyörineet ainakin maailman rikkain ihminen Elon Musk, hänen eksänsä poptähti Grimes ja Anthropicin perustaneet Amodein sisarukset.

Myös Open AI:lla on juurensa liikkeessä, joskin puhtaimmat rationalistit ovat jättäneet yrityksen, kun se arvostelijoiden mukaan hylkäsi alkuperäiset arvonsa kaikille avoimen, turvallisen tekoälyn kehittämisestä.

Epäselvää kuitenkin on, uskovatko nämä maailman suurimpien tekoäly-yritysten johtajat oikeasti Piilaakson teknokultin tuomiopäivän ennustuksiin, vai käyttävätkö he niitä kenties markkinointikikkana.

Tekoälyyn liittyvä huolipuhe käy kuumana. Ketkä siitä hyötyvät? Entä mikä on teknologiajohtajien salamyhkäinen ryhmä, jota kutsutaan rationalisteiksi? Atte Uusinoka haastattelee Ylen toimittajaa Miika Koskelaa: Uutispodcast: Salamyhkäiset rationalistit ruokkivat tekoälyn maailmanloppupuheita


Jarrua painetaan ehkä taloudellisista syistä

Kun tekoäly-yritykset puhuvat maailmanlopun riskeistä, professori Teemu Roos huomauttaa, että ne itse hyötyvät uhkakuvien korostamisesta.

– Kaikkivoivan tekoälyn kehittäneitä yrityksiä pidetään ylivertaisina. Sitä voi hyödyntää kaupallisesti.

Selkeitä merkkejä tekoälykehityksen riistäytymisestä hallinnasta ei Roosin mukaan ole. Ainakaan Open AI:n tekoälyagenttien seikkailut eivät sitä todista.

Kesän lopulla käynnistyneen tekoälypaniikin ajoitus on Roosin mukaan kiinnostava.

Professori Roos ilmaisi kantansa tekoälyn uhkakuvista mielipidekirjoituksessa 22.9. Helsingin Sanomissa: Tekoäly ei ole tuhoamassa ihmiskuntaa

Sekä Anthropic että Open AI valmistautuvat pörssilistautumiseen tilanteessa, jossa yritysten liiketoiminta on ollut vuosien ajan kannattamatonta ja arvostus pitkälti spekulatiivista.

Roosin mukaan yhtiöt pyrkivät kasvattamaan markkinaosuuttaan ja samalla toivovat, että löytyisi joku tekoälymallien pyörittämisen sähkölaskua pienentävä innovaatio.

Samaan aikaan Kiinassa kehitetään vastaavaa tekniikkaa avoimella lähdekoodilla. Tämä kasvattaa Piilaakson painetta onnistua.

Ihmistä ylivertaisesti etevämmän tekoälyn tuloa on odotettu vaihtelevasti jo 50 vuotta.

Se, että tekoäly-yhtiöt itse vaativat kehityksen hidastamista, kertoo professori Roosin ja muiden kriitikoiden mukaan siitä, että odotus saa jatkua.

– Jos tekoälyn kehittäminen pysäytettäisiin, kulupuolelta häviäisi hetkessä muutama sata miljoonaa. Yrityksille sopisi, että kehittämiselle pantaisiin stoppi, ja julkisuudessa asia näyttäisi siltä, että kehittäjät tekivät sen hyvää hyvyyttään, Teemu Roos kiteyttää.

Löytyyköhän tässäkin totuus seuraamalla rahaa, kuten vanha viisaus kehottaa tekemään?