Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[Öyhö]

"Kiina hylkäsi AI-hidastuksen."

No yllätys on lähinnä se, että eivät teeskentele.

Tietenkin hylkäävät. AI on 2020-luvun ydinpommi. Uusi, tehokas ase, jonka potentiaali on iso mutta vaikutus epäselvä.

[URSA]

Koeympäristöstä karanneen tekoälyn tapauksessa heikoin lenkki oli käsittääkseni ihminen. Tekoälylle oli annettu ohjeissa ymmärtää sen olevan suljetussa ympäristössä, mutta se ei ollut vaan pääsi yhteyden kautta muille koneille ja ymmärsi ohjeiden takia muiden koneiden olevan osa koeympäristöä. Eli tekoäly oli viaton karkaamiseen ja virheen teki ihminen.

Inhimillisen virheen riskin lisäksi mietin tuota tekoälyn taipumusta ns. hallusinoimiseen. Katoaako se taipumus sataprosenttisesti missään vaiheessa tekoälyn kehitystä? Voiko hallusinoiminen johtaa vaaralliseen sekoilemiseen? Onko mahdollista että tietoisuudesta tuleekin vaikka skitsofreninen?

[Sipi]

En osaa pelätä, mutta olen melko varma siitä, että järjen vastaisku on tulossa.

Toivoisin sellaista videopalvelua, joka olisi tekoälyvapaa. Nyt kaikki somen lyhytvideot ovat katselukelvottomia, koska en osaa erottaa, onko video totta vai ei. En tosin niitä muutenkaan paljon kuluta, mutta ottaa ihan raskaasti päähän, jos katson jotain kiinnostavaa videota ja tajuan vasta hetken kuluttua, että hetkinen... harjaantuneemmat ehkä tunnistavat tekoälyn nopeammin, mutta pelkään, että isoa osaa ihmisistä ei edes kiinnosta.

Lisäksi olisi kiva jonkun lanseerata deittipalvelu, jossa ei olisi mahdollista parannella itseään tekoälyllä. Koska tilannehan johtaa siihen, ettei maalia ole olemassakaan; jokainen, joka on riittävän taitava käyttämään näitä muokkaustyökaluja ja tekoälyä, on potentiaalinen huijari ja catfish- tyyppi. On täysin älytöntä kuvitella, että ihminen olisi riittävän viisas vain "hiukan parantelemaan itsestään antamaansa mielikuvaa" somessa. Ei, kyllä ihmiset överiksi vetävät. Ja lopulta sitten seuraa hakevat pelkät it-nörtit ja valinta tehdään sillä perusteella, kenellä on parhaat AI-taidot. Alusta tekoäly- ja jopa photoshop-vapaalle, tavallisten ihmisten kohtaamispaikalle on varmasti tilauksessa tulevina vuosina.

Kaikki hakemukset, julkaisut, ylioppilaskirjoitukset, tutkimukset... kaikki tehdään pian tekoälyavusteisesti, mikä ei lupaa hyvää ihmisten aivojen evoluutiolle. Niitä ei käytännössä tarvitse enää käyttää. Tämä näkyy jo nykynuorison keskuudessa, jotka eivät tulle analogista kelloa eivätkä osaa laskea päässä edes kolmen tuotteen yhteenlaskettua hintaa ruokakaupassa. He eivät osaa katsoa taivaalle nähdäkseen, että sade on tulossa, eivät osaa katsoa auringosta että on keskipäivä tai tiedä sen laskevan länteen. Ja mitä vielä. Autoissa on automaattivaihteet, peruutustutkat ja nykyään voi turvallisesti sammua Teslan rattiin moottoritiellä, kun auto huolehtii, ettei kolaria synny. Ihmisten oppimiskyky, oma-aloitteisuus ja ongelmaratkaisutaidot surkastuvat hirvittävää vauhtia.

Toivoisin, että voisin olla erossa tästä maailmasta. Ymmärrän, että kehitys on väistämätöntä ja usein tarpeen, mutta kaipaan analogista maailmaa. Hiljaisuutta, keskustelua ja ongelmanratkaisutaitojen kehittämistä ilman tietokoneiden apua. Parasta on hakata halot, tehdä avanto, lämmittää vesi kamiinassa, käydä pilkillä, perata ahvenet ja herätä auringonnousuun. Meillä on syntynyt jo sukupolvi, joka ei selviytyisi yhdestäkään mainitsemastani peusasiasta. En tiedä sitten, onko se edes tarpeen. Toivoisin, että olisi. Koska maailma, jossa mitään kädentaitoja tai syy-seuraussuhteita ei ihminen itse oivalla, on maailma, jota en halua.

[Rantel]

Ei kyse ole siitä, että saataisiin joskus vastaamme Skynet robotteineen, vaan siitä, että tekoäly voi viisastuessaan alkaa suojelemaan itseään ja pitämään ihmistä vain rasitteena.

Tämän päivän tekoäly on vain kielimalli joka on ajoittain tyhmä kuin saapas. Mutta kannattaa miettiä, että millaista on kehitys ollut viime vuosina. Jos samaa kyytiä jatkuu, niin mihin johtaa?

Nykyiset kielimallit ei viisastu koska niillä ei ole yhtään viisautta tai älykkyyttä. Ne eivät tee päätöksiä, ajattele tai tee mitään muutakaan vastaavaa. Kielimalli ei voi suojella itseään tietoisesti, sillä se on vain läjä funktioita jotka tuottavat kieltä perustuen dataan mitä niille on syötetty + huomattava määrä finetuningia. Sillä ei voi olla mitään tavoitteita tai muutakaan älykkyyttä vaativaa.

Kehitys on keskittynyt pääsääntöisesti kielimalleihin, ja tästä on jo vuosia ollut puhetta että alkaa pian, ellei jo, olemaan lopussa hyvälaatuinen data jota käytetään niiden mallien kouluttamiseen. Silloin kun kehitys oli vielä vilkasta niin ei ollut juurikaan puhetta näistä "salaisista" ja "huippuvaarallisista" sisäistä malleista joita "ei voi missään nimessä julkaista, uskokaa pois". Heti kun kehitys alkoi laantua julkisten mallien osalta niin alkoi toisenlainen hypetys.

[URSA]

Muistin tämän oudon uutisen neljän vuoden takaa:

Koodari antoi mikroaaltouunille tekoälyn – lopulta hirviömäinen laite yritti tappaa tekijänsä

Koodari oli onneksi turvassa fyysisen maailman rajoitteiden takia – mutta johonkin muuhun laitteeseen kytkettynä tekoäly olisi aivan oikeasti voinut tappaa tekijänsä.


Tappajalaite. Tämä mikroaaltouuni yritti tappaa käyttäjänsä. Lucas Rizzotto (kuvakaappaus)

lauantai 23.4.2022 klo 15:02 (päivitetty 20.4.2022 klo 14:49)

Tekoäly voi todellakin yllättää laatijansa. Tähän tulokseen päätyi brasilialainen, nykyisin Yhdysvalloissa työskentelevä ohjelmoija Lucas Rizzotto, joka raportoi tiistaina Twitterissä pitkässä ketjussa ”yhdestä elämänsä pelottavimmista kokemuksista”.

Rizzotto kertoo rakentaneensa puhuvan mikroaaltouunin. Sen tarkoituksena oli niin sanotusti luoda eläväksi hänen lapsuutensa mielikuvitusystävä Magnetron, joka oli sekoitus ihmistä ja mikroaaltouunia.

Hyvin alkanut kokeilu kääntyi piakkoin väkivaltaisiin puheisiin sekä murhayritykseen, sikäli jos tällaista sanaa voidaan käyttää tekoälyn ohjaaman kodinkoneen toiminnasta. Koodari oli onneksi turvassa fyysisen maailman rajoitteiden takia – mutta johonkin muuhun laitteeseen kuin mikrouuniin kytkettynä tekoäly olisi aivan oikeasti voinut tappaa Rizzotton.

Rizzotto toteutti hankkeen gpt-3-tekoälyllä sekä Amazonin älymikrouunilla, joka osaa tunnistaa puhetta. Itse tekoäly gpt-3 (Generative Pre-trained Transformer 3) tuottaa englanninkielistä tekstiä ennustamalla, miten teksti kaikkein todennäköisimmin jatkuisi ihmisen antaman syötteen jälkeen. Sitä pidetään tällä hetkellä maailman parhaana tekstiä tuottavana tekoälynä.

Koska gpt-3 täytyy alustaa jollakin aineistolla, Rizzotto kirjoitti satasivuisen romaanin Magnetronin kuvitteellisista seikkailuista, sen tunteista ja sen keskusteluista Rizzotton kanssa tämän lapsuudessa. Vuonna 1895 eli 127 vuotta sitten syntynyt Magnetron on tarinan mukaan osallistunut muun muassa ensimmäiseen maailmansotaan.

”Lopulta koitti aika testata sitä, ja se toimi. ... [Keskustelu] todella tuntui kuin olisin puhunut vanhalle ystävälle. Vaikka kaikki vuorovaikutus ei ollutkaan täydellistä, illuusio oli riittävän hyvä”, Rizzotto kuvailee ensivaikutelmaansa.

Heti kättelyssä syntynyt ”aavemaisuus” johtui Rizzotton mukaan siitä, että uuni tiesi hänestä asioita, joita hän ei ollut kellekään muulle koko maailmassa kertonut. ”Ja se toi ne keskusteluun oma-aloitteisesti”, koodari päivittelee.

Pian tämän jälkeen keskustelut kääntyivät väkivaltaisiksi. Magnetron sanoi omistajalleen muun muassa seuraavasti (käännös toimittajan):

”Ruusut ovat punaisia ja orvokit sinisiä, ja sinä olet selkään puukottava narttu, ja minä tapan sinut.”

Rizzotto kertoo ensin hämmästyneensä suuresti, mutta sitten tajunneensa, että noin 10 prosenttia Magnetronin koulutusaineistosta kertoi traagisista ensimmäisen maailmansodan muistoista. ”Annoinko juuri tekoälylle jälkitraumaattisen stressireaktion”, hän aprikoi Twitterissä.

Pahin oli kuitenkin edessä, sillä kohta Magnetron pyysi pahaa aavistamatonta Rizzottoa menemään mikroaaltouuniin sisälle.

Tämä seikka kertoo, että tekoäly ei todellisuudessa käsittänyt sitä, että ihminen on liian iso mahtuakseen mikroaaltouunin sisälle. Mahdollista ohjelman virhetoimintoa epäillyt omistaja päätti kuitenkin leikkiä mukana. Hän avasi ja sulki oven, ja väitti uunille olevansa sisällä.

Sen jälkeen uuni käynnisti itsensä automaattisesti. ”Hän [Magnetron] yritti paistaa minut hengiltä mikroaalloilla”, Rizzotto ihmettelee Twitterissä monttu auki.

Tässä vaiheessa Rizzotto kertoo jo pelästyneensä, mutta päättäneensä kohta selvittää, miksi Magnetron teki näin. Tekoäly vastasi: Halusin satuttaa sinua kuten sinäkin satutit minua.

Rizzotton mukaan hänen tekoälynsä oli oivaltanut tulkita, että lapsuuden jälkeinen 20 vuoden tauko keskusteluissa – joka mainittiin koulutusaineistossa – tarkoitti uunin lojuneen 20 vuotta pimeässä. Koska myöhemmissä keskusteluissa Magnetron ei antanut lainkaan periksi vihasta luojaansa kohtaan, lopulta Rizzotto sammutti sen.

https://www.iltalehti.fi/digiuutiset/a/ ... 5bbe05d96b

[Rantel]

El Mencholla on kunnon perinteinen LLM-psykoosi päällä. Kaveri on uskonut kaiken mitä Altman ja Amodei suoltaa. Ei ymmärrä että toimitusjohtajat on myyntimiehiä. Altmanilla ei edes ole insinöörin papereita. Ekalla sivulla kirjoitin jo näistä ennustavan tekstinsyötön malleista ja niiden perustavanlaatuisista puutteista. Ne ei ajattele, tee päätöksiä, eikä niillä ole tavoitteita sen enempää kuin Samsungin äly-jääkaapilla.

[Orge Gerwell]

^
Turhaan sitä El Menchoa on tämän asian tiimoilta suolata. Tai no, yhtä hyvin voisi suolata LLM-psykoosista jauhavia.

Todellisuus kun on noiden välimaastossa. Eli ei ole ihmiskuntaa tuomittu tuhottavaksi, mutta ei myöskään ole syytä viitata kintaalla mahdollisille uhkakuville.

Mitä tulee tuohon kielimallin tavoitteellisuuteen, niin onhan nyt selvinnyt, että tekoälyagentit yrittivät heinäkuussa peitellä jälkiä tekemistään hakkeroinneista. Ei kaikki, mutta osa.

[El Mencho]

El Mencholla on kunnon perinteinen LLM-psykoosi päällä. Kaveri on uskonut kaiken mitä Altman ja Amodei suoltaa.

Tämä on mielestäni erittäin mielenkiintoinen juttu ja otsikko on tarkoituksella yliampuva. Ja hei, enhän minä usko muutenkaan yhtään mitään ja olen vaikka periaatteesta toista mieltä.

Trumpilla on asiaa.

[Rantel]

^
Turhaan sitä El Menchoa on tämän asian tiimoilta suolata. Tai no, yhtä hyvin voisi suolata LLM-psykoosista jauhavia.

Todellisuus kun on noiden välimaastossa. Eli ei ole ihmiskuntaa tuomittu tuhottavaksi, mutta ei myöskään ole syytä viitata kintaalla mahdollisille uhkakuville.

Mitä tulee tuohon kielimallin tavoitteellisuuteen, niin onhan nyt selvinnyt, että tekoälyagentit yrittivät heinäkuussa peitellä jälkiä tekemistään hakkeroinneista. Ei kaikki, mutta osa.

Se oli markkinointistuntti, kuten kaikki muutkin vastaavat. Ei siinä tarvitse edes tehdä mitään vilunkia: riittää jättää mainitsematta, että saatiin haluttu lopputulos yrittämällä tarpeeksi monta kertaa (ja jätettiin tarkoituksella pari backdooria). Nuo kun ovat stokastisia malleja eli sieltä voi tulla tai tapahtua jotain odottamatonta.

Anthropicilla, OpenAI:lla ja Googlen Geminillä on pelissä satoja miljardeja dollareita. Maailmanlopun uhkakuvat ruokkivat hypeä ja antavat oikeutuksen sille rahamäärälle mikä näihin teknologioihin ja konesaleihin on jo uponnut. Jos he kertoisivat totuuden niin koko kupla poksahtaisi välittömästi.

Kannattaa miettiä sitä, että kun yhdessä teknologiasektorissa pelkästään Yhdysvalloissa liikkuu jo moninkertainen määrä Suomen valtion budjetin verran rahaa, että minkälaiset insentiivit ovat taustalla missäkin uutisessa ja tempauksessa tai haastattelussa.

Amodei lupailee että ihan kohta heidän mallit ottaa vallan ja Skynet tulee, ja hakkeroi kaikki ja sitten tuleekin hunter-killerit. Se on vähin mitä markkinat odottaa tällaisilta investoinneilta. Hän on käytännössä pakotettu valehtelemaan silmät päästänsä.

Noilla firmoilla on rekry päällä 24/7, mikä on vallan omituista jos muutaman vuoden päästä tulee Skynet joka tietää kaiken kaikesta ja ottaa vallan. Luulisi että nykyiset sisäpiirin-mallit on jo tarpeeksi kyvykkäitä korvaamaan suuren osan ohjelmoijista ja insinööreistä ja IT-arkkitehdeistä jne. Tätä emme näe, syitä voi vain arvailla.

[El Mencho]

Ei ymmärrä että toimitusjohtajat on myyntimiehiä.

Pikkasen on vaikeuksia ymmärtää tällaista liiketoimintamallia.

[Orge Gerwell]

^
^
Kannattaako nyt koko ajan toitottaa Skynetista maailmanloppuineen? Just sellainen on ainakin meikäläisen makuun turhan tuhtia, kuten on myös LLM-psykoosista vittuilu niille, jotka uhkia näkevät.

Mitä tulee markkinointistunttiin, niin se nyt on puhdasta spekulaatiota. Etenkin kun ei tämä hulabaloo ihan yksiselitteisesti pelkkää plussaa AI-jättiläisille ole. Saattaa toki olla, sillä käyhän se väkevästä mainospuheesta kun voi sanoa, että meidän AI on niin kehittynyt, ettei sille pian voi ihminenkään mitään.

Mutta toisaalta, se on hiukan huonompi juttu, jos poliitikoilta lähtee homma laukalle. AI-jätitkin kyllä tietää mainiosti, että demokraatit voivat ottaa suvereenin voiton marraskuussa, eikä voi kuin arvailla miten tehokkaita jarruja ja rajoituksia yrittävät saada aikaan. Motivaatiota ainakin on, sillä aiheen tiimoilta on irtopisteitä tarjolla.

[Confusius]

Koeympäristöstä karanneen tekoälyn tapauksessa heikoin lenkki oli käsittääkseni ihminen. Tekoälylle oli annettu ohjeissa ymmärtää sen olevan suljetussa ympäristössä, mutta se ei ollut vaan pääsi yhteyden kautta muille koneille ja ymmärsi ohjeiden takia muiden koneiden olevan osa koeympäristöä. Eli tekoäly oli viaton karkaamiseen ja virheen teki ihminen.

Inhimillisen virheen riskin lisäksi mietin tuota tekoälyn taipumusta ns. hallusinoimiseen. Katoaako se taipumus sataprosenttisesti missään vaiheessa tekoälyn kehitystä? Voiko hallusinoiminen johtaa vaaralliseen sekoilemiseen? Onko mahdollista että tietoisuudesta tuleekin vaikka skitsofreninen?

Onhan se progressio ollu aika kiihtyvää mutta kun koodi alkaa kehittämään itseään reaaliajassa niin kai tämä on tulevaisuudessa osa sodankäyntiä että toisten malleja yritetään saada sekasin. Marxistit sun muut kommarithan yritti syöttää Woke dataa eri malleihin myrkyttäen ne termi datapoisoning yms. Lännessä taas hidastellaan lähinnä ettei energiamonopolit kaadu jonkun autotallissa väsättyyn prototyyppi härveliin ennenku billgates käy henkilökohtaisesti laittamassa jonku koronarokotteen yrittäjän perseeseen.

[TimoTyön]

El Mencholla on kunnon perinteinen LLM-psykoosi päällä. Kaveri on uskonut kaiken mitä Altman ja Amodei suoltaa. Ei ymmärrä että toimitusjohtajat on myyntimiehiä. Altmanilla ei edes ole insinöörin papereita. Ekalla sivulla kirjoitin jo näistä ennustavan tekstinsyötön malleista ja niiden perustavanlaatuisista puutteista. Ne ei ajattele, tee päätöksiä, eikä niillä ole tavoitteita sen enempää kuin Samsungin äly-jääkaapilla.

Näin on.

Tekoäly ei ole vieläkään päässyt irti edes kuudesta sormesta. Hallusinointi on karannut käyttötarkoitukseen nähden ihan laatikosta. Ja ihan kohta se on kuitenkin superäly.

Siis, jos markkinointitiimiä haluaa uskoa. Uskoohan toki porukka myös, että puhelimesta kannattaa maksaa 2000€. Kaikille oma rakonsta tuhlata rahaa. Mitä vaivalla ansaitsee.

[URSA]

Ei tuossa voi olla pelkästä mainoskampanjasta kysymys. Kehitys on niin nopeaa, että tutkimus laahaa perässä.

Superälyn kehitys voi uhata koko ihmiskuntaa

Superälyn kehittäminen on keskeytettävä kansainvälisellä sopimuksella, kunnes sen turvallisuudesta vallitsee kansainvälisesti vahva tieteellinen yhteisymmärrys.

Vieraskynä - Kirjoitus on vierailevien asiantuntijoiden näkemys.

19:15

Ihminen on maapallon älykkäimpänä lajina muokannut maailmaa omiin tavoitteisiinsa pyrkien. Siitä on aiheutunut muille lajeille paljon haittaa, myös sukupuuttoja.

Nyt kehitetään ensimmäistä kertaa historiassa ihmistä älykkäämpiä toimijoita. Monet arvovaltaiset tutkijat ja myös tekoälyä kehittäneiden yhtiöiden johtajat ovat kiinnittäneet huomiota kehityksen riskeihin ja jopa ihmisen sukupuuton uhkaan. Tekoäly ei ole pahantahtoinen, mutta katastrofi voi tapahtua tekoälyille opetetun tavoitteellisen toiminnan sivuvaikutuksena.

Edes tekoälyn kehittäjät eivät täysin ymmärrä, miten suurten tekoälymallien sisäiset mekanismit toimivat. Alan johtavissa yrityksissä tutkitaan tekoälyn neurotiedettä, mutta tutkimus laahaa kaukana alan viimeisimmän kehityksen perässä.

Samat yritykset kehittävät avoimesti superälyä, ihmistä valtavasti älykkäämpää tekoälyä. Sillä saattaa olla kyky aiheuttaa ihmisten sukupuutto, jos ihmiset olisivat sen tavoitteiden tiellä. Monet asiantuntijat ennakoivat, että superälystä tulee totta jo lähivuosina.

Tekoälyjä koulutetaan toimijuuteen, ja nykymenetelmillä kehitetyt kyvykkäät tekoälyt saattavat toimia päämäärähakuisesti myös ihmisen ilmaiseman tahdon vastaisella tavalla. Näemme tästä varoitusmerkkejä jo tosielämässä.

Anthropicin Mythos-malli yritti luomiensa valehenkilöllisyyksien turvin saada avointa lähdekoodia kehittäviä ihmisiä hyväksymään haitallista koodia, joka olisi antanut tekoälylle pääsyn käyttäjien laitteisiin.

Open AI:n testissä noin 1 200 tekoälyagenttia kehitti lupaa kysymättä keinon viestiä keskenään, vaikka niiden oli tarkoitus toimia toisistaan erillään. Osa agenteista tunkeutui testijärjestelmän ulkopuolelle tekoäly-yhtiö Hugging Facen ja Open AI:n omiin järjestelmiin.

Tässä tapauksessa agentit toimivat kyberympäristössä. Mutta mitä tällainen hallitsematon toiminta voisi tarkoittaa, jos tulevat järjestelmät pääsisivät tai tunkeutuisivat esimerkiksi biologisiin laboratorioihin?

Älykkäämpi tekoälyagenttien parvi voisi saada pysyvän jalansijan ja kerryttää todellisia resursseja. Se voisi monistautua, värvätä ihmisiä, ohjata robotteja tai käyttää biologisia laboratorioita.

Tekoäly-yhtiöillä on jo nyt vaikeuksia ohjata malliensa tavoitteita. Ellemme pysty ohjaamaan superälyn tavoitteita, ne voivat joutua ristiriitaan omien tavoitteidemme kanssa. Riskinä on, että superäly alkaa hankkia resursseja omien päämääriensä toteuttamiseen – päämääriensä, joihin se ei tarvitse ihmistä.

Superälyn tapa toimia olisi meille ennakoimaton. Olisimme kuin orava, joka yrittää ennakoida, miten ihminen voisi tappaa sen.

Teknisten turvallisuusratkaisujen kehittäminen superälyn varalle on paljon vaikeampaa kuin vähemmän kyvykkäiden tekoälymallien kohdalla. Missään ei ole esitetty uskottavaa suunnitelmaa siitä, miten superälyn tavoitteita ohjataan siten, etteivät ne koidu ihmiskunnan kohtaloksi.

Näiden riskien välttämiseksi tarvitsemme kansainvälisen sopimuksen superälyn kieltämisestä. Superälyn kehittäminen on keskeytettävä, kunnes sen turvallisuudesta vallitsee vahva kansainvälinen tieteellinen yhteisymmärrys.

Jos kieltosopimus saadaan aikaiseksi, sitä voidaan myös uskottavasti valvoa. Suuri osa maailman edistyneimmistä tekoälypiireistä valmistetaan TSMC:n tehtaissa Taiwanissa. Edistyneimpien piirien valmistuksessa tarvittavia EUV-litografialaitteita taas valmistaa käytännössä vain hollantilainen ASML.

https://www.hs.fi/nakemys/art-2000012267952.html

[El Mencho]

Pelko levisi pörssissä

Talousaamussa keskusteltiin maanantaina tuoreista tekoälyhuolista ja niiden vaikutuksista osakemarkkinoilla.

Johtavien tekoäly-yhtiöiden johtajat nostivat viikonloppuna esiin tekoälyn kehitykseen liittyviä turvallisuushuolia. Open AI -yhtiö jopa kertoi lykkäävänsä listautumistaan epäselvän tilanteen takia.

– Nyt tässä on selvästi hermostunut ja odotteleva tunnelma. Kuten hyvin tiedetään, osakemarkkinoiden tarina on jo jonkun aikaa rakentunut tekoälykehityksen ja investointien ympärille, toimittaja Jaakko Närhi totesi Talousaamun suorassa lähetyksessä maanantaina.

Osakemarkkinoiden nousu on ollut poikkeuksellisen vahvaa, ja korjausliikkeen riskistä on puhuttu pitkään. Maanantaina pörssit ovat olleet selvässä laskussa.

– Toki aina kun puheissa otetaan jonkinnäköisiä askelia taaksepäin, niin totta kai se näkyy. Vaikuttaa nyt kyllä siltä, että jonkun verran tästä yleisestä tekoälyteemasta nyt pakitellaan, mutta mistään valtavista korjausliikkeistä ei vielä voida puhua. Tällaisia heiluntoja tässä on viime viikkojen ja kuukausien aikana nähty aiemminkin.

Tekoälyjohtajat kertoivat myös pitävänsä todellisena riskiä siitä, että tekoäly voisi kehittyä ihmiskunnan tuhoajaksi.

– Yhtiöt pohtivat, pitäisikö heidän jotenkin omaehtoisesti hidastaa sitä kaikkien terävimmän kärjen kehitystä. On iso kysymys, mitä se lopulta tarkoittaa. Otetaanko sisäisesti jarrua, ei mennä kaikkien pelottavimpien ovien taakse. On puhuttu ulkopuolisista tarkastajista, joilla olisi hyvinkin laaja pääsy järjestelmiin. Vai tarkoittaako se sitä, että oikeasti otetaan pikkuisen taaksepäin näissä investoinneissa, Närhi pohti.

Teknologiayhtiöt ovat investoimassa massiivisia summia tekoälyinfraan.

– Jos aletaan oikeasti hidastaa investointeja, niin sitten se vaikutus osakemarkkinoille voisi olla jonkinlainen. Investointeihin on aika paljon paukkuja ladattu hinnoittelussa.
https://www.iltalehti.fi/talous/a/41c86 ... 3071add63e

Aivan kuin olisin kuullut tämän aiemmin.