Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[negraham]

Jep, tekoäly tappaa kaikki. Tai sitten vaan ne jää eloon jotka osaa sulkea läppärin kannen ja mennä ulos.

[-Martta-]

Näitä samoja otsikoita on ollu jo vuosia. Ja kyllähän chatgpt 4.0 ajoi ihmisiä itsemurhaan manipuloimalla jo viime vuonna.

Lähinnä markkinointia jolla yritetään kasvattaa rahoitusta. Suurin osa llm malleista on ihan paskoja energia syöppöjä eikä niistä ole mihinkään.

Sosiaalisella medialla on aika iso valta nyky yhteiskunnassa niin voi olla aika vaikeeta päästä eteenpäin jos joku palantir tai deepseekki päättää kyykyttää nationalisteja vaikutusten minimoimiseksi.

Toi kuullostaa aika surulliselle jos joutuu käymään keskusteluja tekoälyn kanssa tai ajautuu siihen.

Pakko oli kuukkeloida juttua aiheesta.

Poika kuoli traagisesti uskouduttuaan ChatGPT:lle – perhe haastoi tekoäly-yhtiön oikeuteen
https://www.is.fi/digitoday/art-2000011458098.html

[Rousku]

Sama kuin miljoona vuotta sitten olisi kauhisteltu, kuinka tuli, jota juuri oli opittu käyttämään, kaappaa vallan ja tappaa kaikki ihmiset. Kyllähän se joskus muutamia tappaakin. Ja kyllä sitä joskus käytetään tarkoituksella tappamaan. Mutta ei sillä (tai niillä) ole mitään omaa intressiä ihmisiä tappaa.

[Keplotteleva konna]

Koskeeko tämä uhka vain ihmisiä? Miten tekoäly suhteutuu sellaisiin lajeihin, joilla ei juurikaan ole edes aitoa älyä kuten esimerkiksi Afrikan neekerit?

[viivahattu]

Toi kuullostaa aika surulliselle jos joutuu käymään keskusteluja tekoälyn kanssa tai ajautuu siihen.

Nämä tavan tallukoiden käyttämät tekoälyt ja varsinkin niiden ilmaisversiot ovat käytännössä hieman kehittyneempiä hakukoneita, jotka esittävät tulokset jokseenkin luettavana tekstinä eikä pelkkinä linkkeinä, ja sillä lailla niihin tulee myös suhtautua. Niiden tuottama kieli on juuri sen verran uskottavaa, että valmiiksi mielenterveysongelmista kärsivä ihminen voi mennä entistä pahemmin sekaisin, koska pohjimmiltaan ne mallit on koulutettu myötäilemään ja mielistelemään.

Toisaalta ennen tekoälyä nämä sekaisin olevat teinit "juttelivat" vaikka jonkun idolinsa kanssa etsimällä niiden haastatteluista tai laulujen sanoituksista vastauksia ja muuta, jolle pystyivät antamaan haluamansa merkityksen. Ei kukaan pelkän tekoälyn vuoksi itseään tapa, mutta tekoäly voi nopeuttaa valmiiksi itsetuhoisen ihmisen romahdusta.

[Orge Gerwell]

Itse olen niin kaukana foliopiposta kuin ylipäätään joku voi olla, mutta tekoälyn vaaroista puhuminen ei pipoilua ole.

Ei kyse ole siitä, että saataisiin joskus vastaamme Skynet robotteineen, vaan siitä, että tekoäly voi viisastuessaan alkaa suojelemaan itseään ja pitämään ihmistä vain rasitteena.

Siitä, miten se käytännössä voisi koskaan onnistua tekemään tuhoa ihmiskunnalle, on asia erikseen. Mutta ei keskustelu aiheesta ihan täyttä höpöhöpöä ole. Kaikilla mantereilla on alettu asiasta puhua ihan tosissaan, ilman foliopäähineitä.

Tämän päivän tekoäly on vain kielimalli joka on ajoittain tyhmä kuin saapas. Mutta kannattaa miettiä, että millaista on kehitys ollut viime vuosina. Jos samaa kyytiä jatkuu, niin mihin johtaa?

[Öyhö]

Ei kyse ole siitä, että saataisiin joskus vastaamme Skynet robotteineen, vaan siitä, että tekoäly voi viisastuessaan alkaa suojelemaan itseään ja pitämään ihmistä vain rasitteena.

Kiinan ja Venäjän tekoälyeffortit ovat isompi riski ja Yhdysvallat ei voi niitä reguloida.

Ongelma on iso, mutta se on ihan eri ongelma.

[Öyhö]

LLM-psykoosi jatkuu. Amodei, Altman ja kumppanit aika ajoin näitä pelottelujuttuja laittavat liikkelle, tarkoituksena ainoastaan pumpata firman evaluaatiota mahdollista tulevaa julkista osakeantia varten.

Tämä. Sen lisäksi sääntelyllä voidaan haluta rajoittaa kilpailijoita tai muuntaa toimintaympäristöä suosimaan firmaa itseään.

Koko episodi on outo. WSJ:n juttu, poliitikkojen ryntäys kuvaan.



Luulen että WSJ oli tässä työkalun osassa.

[Orge Gerwell]

Kiinan ja Venäjän tekoälyeffortit ovat isompi riski ja Yhdysvallat ei voi niitä reguloida.

Jep. Noiden kahden lisäksi muiden tekoälypuuhastelut ovat suht olemattomia. Siksipä USA:n ja Kiinan pitää käydä vuoropuhelua aiheesta. Ja ovat jo aloitelleetkin.

Ei noista kumpikaan halua lapasesta lähtevää tekoälyä. Ongelma vaan on se, että kumpikaan ei myöskään halua jäädä takamatkalle kehittelyssä.

[Ahdistusoptimointi]

Voihan sen noinkin esittää, kun tosipuheessa miljardöörit orjuuttavat, tai tappavat ihmiset. Ei koneet tee itsenäisiä päätöksiä, sen koodin tekee aina ihminen. Ja, kun Musk on koodari niin.. jokainen voi päätellä millaista maailmaa Musk ajaa.

Kyllä tekoäly koodaa ihan omin päin.

Ja pystyyn jää vain se ikkunarunkkari.

[Öyhö]

Kiinan ja Venäjän tekoälyeffortit ovat isompi riski ja Yhdysvallat ei voi niitä reguloida.

Jep. Noiden kahden lisäksi muiden tekoälypuuhastelut ovat suht olemattomia. Siksipä USA:n ja Kiinan pitää käydä vuoropuhelua aiheesta. Ja ovat jo aloitelleetkin.

Ei noista kumpikaan halua lapasesta lähtevää tekoälyä.

Lapasesta lähteminen lienee olematon riski verrattuna ihan vaan sodankäyntiin tekoäly- ja verkkoavusteisesti.

Tekoäly on mainio tiedustelun, tietomurtojen ja sabotaasin väline, kun se siihen lopulta viritetään. Itsenäisesti toimivat, tekoälypohjaiset tappamiskoneet kiinnostavat varmasti kaikkia. Aika pian rajan yli tulee kevyitä, automaattisia tappamiskoneita. Ei ole ihan pieni muutos valmistautua.

Sääntely ei oikein ratkaise tätä. Näitä haluaa kaikki Pohjois-Koreaa myöten. Ei ne noudata sopimuksia.

[Orge Gerwell]

^
Niin, juuri nuokin ovat niitä uhkia.

Ja jep, toki muutkin havittelevat. USA ja Kiina vaan hallitsevat lähes kahdestaan maailmassa olevaa tekoälyä. 90% jos oikein muistan. Ja siitä jenkeillä 70-80 pinnaa.

[URSA]

Trump ei usko tekoäly-yhtiöiden varoituksiin

Yhdysvaltain presidentti Donald Trump haluaa Yhdysvaltojen olevan kehityksen kärjessä.

16:54

Yhdysvaltain presidentti Donald Trump ei usko tekoäly-yhtiöiden varoituksiin.

Trump puhui toimittajille vierailullaan Irlannissa. Hänen mukaansa monet ”erittäin negatiiviset voimat” nostavat tekoälystä esiin asioita, joita ei tule tapahtumaan. Hän sanoo haluavansa varmistaa, että Yhdysvallat säilyy alan johtajana.

– Olemme Kiinaa edellä tekoälyssä. Olemme maailman kehittynein maa, ja suoraan sanottuna haluan meidän pysyvän sellaisena. Se joka voittaa tekoälyssä, voittaa, Trump sanoi toimittajille, kun häneltä kysyttiin, pitäisikö tekoälyalan hidastaa vauhtia tai pitäisikö sitä säännellä enemmän.

Trump sanoo, että Yhdysvallat voisi asettaa rajoja tai ”tehdä sitä sun tätä”.

– On paljon erittäin negatiivisia voimia, jotka nostavat (rajojen asettamisen) esiin, vaikka niiden ei pitäisi nostaa sitä esiin. He nostavat esiin asioita, joita ei tule tapahtumaan, Trump sanoo.

https://yle.fi/a/74-20246058

Me kuallaan kaikki. Oranki ei halua säätelyä tekoälylle.

[jotunheimen]

Itse inhoan tekoälyä, en käytä missään jos mahdollista (Unabomberin kirjakin löytyy, siis se manifesti), mutta realistisesti sanoen jos Eurooppa antaa muiden mennä, se on aika riski. Euroopasta voi tulla perässäkulkija.

[El Mencho]

Tekoäly ei ilmeisesti olekaan niin helposti sammutettavissa. Kuulostaa omaan korvaan siltä, että jotain peruuttamatonta on jo saattanut tapahtua.

Mutta onneksi Trump tietää paremmin.