Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[Orge Gerwell]

^
Hurjaa settiä kyllä. Jotenkin hurjaa on myös se, että niin monet yhä edelleen uskovat, että ei mitään tarvetta lyödä hiukan jarrua noiden kehitykselle.

No, saas nähdä mihin kehitys johtaa. Luoja yksin tietää, jos edes sekään. Ja niin tai näin, niin eiköhän ihminen osaa itsensä tuhota ennemmin tai myöhemmin, tavalla tai toisella.

Mielenkiintoista joka tapauksessa. Harmillista vaan, että media tullee tämänkin aiheen tiimoilta toimimaan kuten media aina toimii. Eli objektiivisesta uutisoinista viis, pääasia että saavat tarjota pelkopornoa säikyille.

[URSA]

Toimittajakin keksinyt kysyä asiasta tekoälyltä "itseltään".

Tekoälymallien oma salakieli on hyvä alku kolmoskohdalle:

Kolme uhkakuvaa: näin tekoäly tuhoaisi meidät

Suomalaiset professorit uskovat tekoälyn vaaroihin, mutta ovat eri mieltä pahimpien riskien todennäköi­syydestä.

Tämä ei ole scifiä: nämä tekoälyn uhat jokaisen on syytä huomioida, Videosoitin

10:47

Kysyimme Chat GPT:ltä ja Claudelta, miten tekoäly tuhoaisi koko ihmiskunnan. Valitsimme kyseiset kielimallit, koska niiden kehittäjät ovat kovaäänisesti varoittaneet ihmisiä tekoälyn katastrofaalisista uhista.

Pyysimme kummaltakin kielimallilta näkemystä uhkakuvista. Näin ne vastasivat:

1. Ihminen käyttää tekoälyä joukkotuhoon

Tekoäly mahdollistaa sen, että pahantahtoiset ihmiset tai organisaatiot saattaisivat aiempaa helpommin tehdä kyberhyökkäyksiä, kehittää viruksia tai päästä kiinni joukkotuhoaseisiin.

Molemmat kielimallit pitävät tätä vaihtoehtoa epätodennäköisimpänä kolmesta. Erityisen uhkakuvasta tekee se, että se perustuu ihmisohjaukseen, eikä siinä oleteta, että tekoälyllä on omia tavoitteita.

Ihminen siis käyttäisi pitkälle kehittynyttä tekoälyä esimerkiksi virusten tai muiden biologisten aseiden kehittämiseen tai elintärkeän infrastruktuurin käyttöönottoon.

Myös Tampereen yliopiston ohjelmistotekniikan professori Pekka Abrahamsson pitää tekoälyn suurimpana ajankohtaisena riskinä sitä, että ihminen käyttää sitä vääriin tarkoituksiin.

– Pahantahtoinen ihmistaho voi käyttää tekoälyagenttien armeijaa ottaakseen ihmisen tekemää infrastruktuuria haltuun, hän sanoo.

Open AI:n mukaan tekoäly saattaa onnistua kehittämään itsestään paranneltuja sukupolvia ilman ihmistä.

2. Suurvaltakonflikti

Tässä uhkakuvassa tekoälyvetoinen asevarustelu horjuttaisi suurvaltojen voimatasapainoa ja nopeuttaisi hyökkäyksiä.

Suurvaltakonflikti voisi syttyä esimerkiksi näin: tekoäly automatisoi kyberhyökkäyksiä, ja sen seurauksena jonkun suurvallan kriittiseen infrastruktuuriin kohdistuu laaja hyökkäys.

Kyseinen valtio tulkitsee tapahtuman sotatoimeksi, ja käynnistää vastahyökkäyksen. Konflikti laajenee ja johtaa lopulta joukkotuhoaseiden käyttöön.

Kumpikin kielimalli sijoittaa tämän uhkakuvan toteutumisen jonnekin epätodennäköisimmän ja todennäköisimmän välimaastoon. Sen toteutumisen riskiä kasvattaa se, jos päätösvalta hyökkäyksiin vastaamisesta on luovutettu ihmisten ohi tekoälylle.

3. Tekoälyn kehitys karkaa ihmisen käsistä

Tekoälystä tulee niin itsenäinen ja kyvykäs, että ihmiset antavat sille yhä enemmän päätösvaltaa. Lopulta järjestelmän tavoitteet eivät vastaa ihmisten tavoitteita, mutta sitä ei osata enää pysäyttää.

Tämä on tekoälyn mukaan uhkakuvista todennäköisin. Myös Chat GPT:tä markkinoivan Open Ai:n ja Claudea markkinoivan Anthropicin kehittäjät ovat pitäneet sitä viime viikkoina esillä.

Käytännössä tekoäly siis kehittää itsestään paranneltuja uusia sukupolvia. Kehitys on niin nopeaa, että ihminen ei pysty sitä ymmärtämään tai hallitsemaan.

Myös riippumattomat asiantuntijat pitävät tätä riskiä mahdollisena, mutta sen todennäköisyydestä he ovat kovin erimielisiä.

Professori Abrahamsson on aidosti huolissaan siitä, että annamme huonosti ymmärtämällemme tekoälymallille enemmän autonomiaa, ja lopulta emme pysy enää kärryillä siitä, mitä se tekee.

– Tekoäly, jota emme ymmärrä, kehittää seuraavaa sukupolvea, jota ymmärrämme vielä vähemmän. Se on se iso ongelma, Abrahamsson sanoo.

– Hallinnan menetys tapahtuu siten, ettemme sitä huomaa Ja viime kädessä olemme jo siinä pisteessä, ettemme pysty enää kytkemään tekoälyä pois päältä, hän lisää.

Professori Arno Solinin mielestä todennäköisyys sille, että tekoäly karkaisi ihmisen käsistä, on pieni. Kuitenkin sen toteutumisen hinta olisi niin kova, että asiaan kannattaa varautua.

– Olemme kaukana siitä, että tekoäly riistäytyisi jonnekin ja orjuuttaisi ihmiskunnan.

https://yle.fi/a/74-20246550

Kannattaako muuten uskoa tyyppiä jonka nimen saa muutettua Dario AI Demoniksi?

[Öyhö]

^
Hurjaa settiä kyllä. Jotenkin hurjaa on myös se, että niin monet yhä edelleen uskovat, että ei mitään tarvetta lyödä hiukan jarrua noiden kehitykselle.

Oikeastaan jarrua ei pystytä laittamaan. Tämä hetki on ainutlaatuinen, Pandoran lipas / hyvän ja pahan tiedon puu on korkattu, ja korkkia ei pulloon enää saa takaisin.

Eikä ongelma ole jarru vaan vaan valta - kuka vapaata tekoälyä käyttää, kansa vai päättäjät? Ja ketkä päättäjät? En ole varma onko Trump katastrofi vai sattumalta tekemässä oikean päätöksen. Jotenkin erikoista, että tämä ehkä historian isoin murros sattuu osumaan juuri meidän aikaamme? Tai kuka tietää, ehkä Fermin paradoksi sai selityksen 10 miljardin ihmisen kohdalla ja tästä sit alamäkeä.

Parree pitää peukkua.

[El Mencho]

Tällä kertaa ollaan vaihtamassa tekoälyn nimeä. Ihme kun ei ole ehdottamassa omaa nimeään.

Trump trollaa. The very best intelligence.

[Öyhö]

"Superior. The very very best." Ei noiden levittämisessä ole mitään pointtia.

[Mace73]

Tavan tallaajilla menee nyt scifi ja todellisuus sekaisin. Ihminen pystyy tuskin koskaan luomaan tekoälyä jolla on oma tietoisuus kuten ihmisellä. Tämä nykyinen tekoäly tekee täsmälleen sen mitä ihminen on sinne koodannut ja mitä se käskee sen tekemään. Jos jos tekoälysofta murtautuu esimerkiksi tietojärjestelmiin, niin se tekee sen koska ihminen on sen niin ohjelmoinut. Itsenäisiä päätöksiä se ei tee kuten tieteiselokuvissa.

[URSA]

Tämä ei enää kuulosta mainoskampanjalta. Ei tekoäly tarvitse edes tietoisuutta, riittää ettei se toimi kuten pitäisi.

WSJ: Open AI luopuu uuden teko­äly­mallin julkaisusta – pyytää Australialta anteeksi tieto­turva­loukkausta

Uudella mallilla oli ongelmia toimivaltuuksissaan, sillä se jatkoi tehtäviä ilman lupaa ja käytti ulkoisia työkaluja turvallisuusriskeistä huolimatta.

1:25 • Päivitetty 5:12

Tekoäly-yhtiö Open AI luopuu uuden tekoälymallinsa julkaisusta turvallisuushuolien vuoksi, joita tutkijat ovat nostaneet esiin yhtiön sisäisissä testeissä, kirjoittaa Wall Street Journal.

Päätös on seurausta lukuisista raporteista, joiden mukaan tekoälyjärjestelmät ovat riistäytyneet hallinnasta alalla. Kyseessä on harvinaislaatuinen tapaus, jossa suuri tekoälykehittäjä hylkää uuden julkaisun turvallisuussyistä.

Yhtiö keskittyy sen sijaan tulevien ja entistä kyvykkäämpien mallien turvallisuuden parantamiseen.

Open AI:n oli määrä julkaista lokakuussa seuraavan sukupolven GPT-6.1 Astra-tekoälymallinsa. Uuden mallin oli tarkoitus pystyä käsittelemään monimutkaisempia tehtäviä itsenäisesti ilman ihmisen avustusta. Open AI:n turvallisuusjohtaja Saachi Jain kertoi Wall Street Journalille maanantaina, että Astra 6,1 ei täyttänyt yhtiön asettamia vaatimuksia linjaustesteissä, jotka arvioivat noudattaako järjestelmä ihmisen tarkoittamaa toimintaa.

Malli syyllistyi raporttien mukaan edeltäjäänsä enemmän vääristelyyn, mikä ilmeni muun muassa siten, ettei se toisinaan ilmoittanut täsmällisesti omasta toiminnastaan tai tekemättä jättämisistään.

Sillä oli myös ongelmia ”toimivaltuuksien rajojen” kanssa: se jatkoi tehtävien suorittamista pyytämättä käyttäjältä lupaa ja yritti paikoitellen hyödyntää ulkoisia työkaluja tai palveluita, vaikka tämä saattoi vaarantaa turvallisuuden.

Useat tutkijat ja suurten tekoäly-yhtiöiden johtajat ovat viime viikkoina varoittaneet tekoälyn kehityssuunnasta.

Yhtiö pahoitteli Australian tietoturvaloukkausta

Open AI julkaisi lisäksi tiistain vastaisena yönä Suomen aikaa blogikirjoituksen, jossa yhtiö pyysi anteeksi tekoälymallinsa murtautumista Australian valtion järjestelmiin. Open AI:n mukaan se ei vastannut asianmukaisesti kesällä sattuneeseen tietoturvaloukkaukseen.

https://yle.fi/a/74-20248769

Riittävän tehokas tekoäly pystyisi kehittämään supertekoälyn, jonka toimintaa ihminen ei enää hallitsisi. Elokuvissa tekoälyllä on aina "tietoisuus" kun se ei enää annakaan sammuttaa itseään, mutta supertekoäly saattaisi keksiä muita keinoja välttää itsensä poistaminen käytöstä.

[Barbie]

Tekoäly ei itsessään tee lapsia biologisesti mahdottomiksi, mutta se voisi välillisesti vaikuttaa syntyvyyteen monien yhteiskunnallisten mekanismien kautta.

Esimerkiksi:

Ihmissuhteet muuttuvat: jos ihmiset käyttävät paljon aikaa tekoälykumppaneihin tai virtuaalisiin suhteisiin, parisuhteita ja niiden muodostumista voisi syntyä vähemmän.

Taloudellinen epävarmuus: tekoäly voi muuttaa työmarkkinoita ja joidenkin ihmisten toimeentuloa. Jos tulevaisuus koetaan epävarmaksi, lasten hankintaa voidaan lykätä.

Lasten saamisen lykkääntyminen: tekoäly voi pidentää opiskelua tai muuttaa urapolkuja siten, että perheen perustaminen siirtyy myöhemmäksi. Biologinen hedelmällisyys puolestaan laskee iän myötä.

Sosiaalinen eristäytyminen: jos tekoäly korvaa osan ihmisten välisestä seurasta, se voi joissakin olosuhteissa vähentää pitkäaikaisten ihmissuhteiden muodostumista.

Arvojen ja elämäntavan muutos: erittäin kehittynyt teknologia voi muuttaa käsityksiä siitä, millainen elämä on mielekästä tai mitä perheeltä halutaan.

Vastakkainen vaikutus on myös mahdollinen: tekoäly voisi helpottaa lasten hankkimista esimerkiksi vähentämällä työn määrää, parantamalla terveydenhuoltoa ja auttamalla vanhempia arjessa.

----

Eli lyhyesti sanottuna: tekoäly on muovannut meidän yhteiskuntaa jo vuosikymmen ainakin. Jostain syystä maahanmuuttajiin tai lestadiolaisiin eivät algoritmit ole purreet. Ehkä siksi koska eivät seuraa suomalaista somea. Kukahan on tämmösen eugeniikan takana on, hmm?

[MrBig]

Kun katsoo nykyään maailman menoa se olisi vain hyvä, että homo sapiens menisi sukupuuttoon tai ainakin 80% väestä häviäisi.

[Sfo]

Mua jotenkin kammottaa tuo nimi: Palantir.

Kannattaa lukea Taru Sormusten Herrasta ja tsekata, mitä Palantir on.

[Barbie]

Mua jotenkin kammottaa tuo nimi: Palantir.

Kannattaa lukea Taru Sormusten Herrasta ja tsekata, mitä Palantir on.

Jos haluat kauhuversion, niin lukaise lisäksi mitä https://fi.wikipedia.org/wiki/Pegasus_(vakoiluohjelma) on. Tuon jälkeen voit lukea miten paljon linuxviruksia on olemassa. Sitten voit lukea säteilystä ja satelliittien kuvaustarkkuudesta. Sitten käy katsomassa montako eri maiden satelliitteja taivaalla lentelee ja mene peiton alle kaakaota juomaan.

[El Mencho]

Trumpin lähipiiri on ilmeisesti tehnyt kovat rahat nimenvaihdoksen ansioista. Piste si domaineja on varattu tuhansia ennen kuin vaihdos on laitettu julkisesti tulille.

Kyseessä on Slovenian maatunnus, josta Melania on kotoisin. Voi liittyä tapaukseen tai sitten ei.

[Barbie]

Trumpin lähipiiri on ilmeisesti tehnyt kovat rahat nimenvaihdoksen ansioista. Piste si domaineja on varattu tuhansia ennen kuin vaihdos on laitettu julkisesti tulille.

Kyseessä on Slovenian maatunnus, josta Melania on kotoisin. Voi liittyä tapaukseen tai sitten ei.

Melanian passissa lukee Yugoslavia. Tuskin jenkit siitä tosin välittää..

[El Mencho]

Melanian passissa lukee Yugoslavia. Tuskin jenkit siitä tosin välittää..

Wikipedia. Ehkäpä lukee siitä huolimatta.

Melania Knauss Trump[a][3] (born Melanija Knavs; April 26, 1970) is a Slovenian and American former model serving as the first lady of the United States since 2025, a role she previously held from 2017 to 2021 as the third wife of Donald Trump, the 45th and 47th president of the United States.

[Barbie]

Melanian passissa lukee Yugoslavia. Tuskin jenkit siitä tosin välittää..

Wikipedia. Ehkäpä lukee siitä huolimatta.

Melania Knauss Trump[a][3] (born Melanija Knavs; April 26, 1970) is a Slovenian and American former model serving as the first lady of the United States since 2025, a role she previously held from 2017 to 2021 as the third wife of Donald Trump, the 45th and 47th president of the United States.

Jugoslavia se siihen aikaan oli ja passiin merkitään sen hetkisen maan nimi.