Tekoäly kaappaa vallan ja tappaa kaikki ihmiset

[lammas1]

En ois kovin vaikuttunu Astran kyvystä murtaa joku koodi, jos selitys on että sitä ei ole aiemmin murrettu koska tiedossa olevaa koodiavainta ei oltu testattu radiolähetyksen purkamiseksi. Vähän kun meikä pohtisi vuosikaupalla onko 2+2 neljä, muttei kirjota vastausta ja sitte tekoäly kertoo että neljähän se.

Enemmän olen huolissani Nokian ja kumppaneiden kehittämästä puhelimesta johon ei tarvitse vastata ja jossa vastaamisen hoitaa tekoälyagentit. Eniten olen huolissani siitä että ihmiset joilla ei ole tietoa ja joiden tarkoitusperät ovay huonoja, ylipäätään saavat käyttöönsä mitään tekoälyyn viittaavaa.

[Oulun_Kungas]

Et oo kartalla. Sori, se on siinä.

En haluakkaan olla sinun kartallasi, joka on vahvasti väärässä.

Öh.

Donald Dump on kysynyt tekoälyltä jotain ja saanut väärän vastauksen[...]

Ei Trump tiedustelua tee. Toi on ihan dorka ajatus.

Trump on sotavoimien ylipäällikkö. Vaikka Trump ei henkilökohtaisesti tekisi tiedustelua TrumpGPT:llä niin hän päättää siitä miten tietoon suhtaudutaan. Eivät hänen alapuoliset tee päätöksiä.

[Oulun_Kungas]

En ois kovin vaikuttunu Astran kyvystä murtaa joku koodi, jos selitys on että sitä ei ole aiemmin murrettu koska tiedossa olevaa koodiavainta ei oltu testattu radiolähetyksen purkamiseksi. Vähän kun meikä pohtisi vuosikaupalla onko 2+2 neljä, muttei kirjota vastausta ja sitte tekoäly kertoo että neljähän se.

Enemmän olen huolissani Nokian ja kumppaneiden kehittämästä puhelimesta johon ei tarvitse vastata ja jossa vastaamisen hoitaa tekoälyagentit. Eniten olen huolissani siitä että ihmiset joilla ei ole tietoa ja joiden tarkoitusperät ovay huonoja, ylipäätään saavat käyttöönsä mitään tekoälyyn viittaavaa.

Mitä, eikö se ole mielestäsi hieno ominaisuus, että jatkossa puhelimellesi voi asentua virus, vaikka et vastaa puhelimeen?

Nokian keksintö on devoluutiota. Esitetään, että ennen puheluun vastaanottamista pitäisi dataa siirtyä jo vastaanottajalle. Tekstiviesti keksittiin joku 40v sitten.

[Öyhö]

En haluakkaan olla sinun kartallasi, joka on vahvasti väärässä.

Öh.

Donald Dump on kysynyt tekoälyltä jotain ja saanut väärän vastauksen[...]

Ei Trump tiedustelua tee. Toi on ihan dorka ajatus.

Trump on sotavoimien ylipäällikkö. Vaikka Trump ei henkilökohtaisesti tekisi tiedustelua TrumpGPT:llä niin hän päättää siitä miten tietoon suhtaudutaan. Eivät hänen alapuoliset tee päätöksiä.

Sä siirrät maalia joka kierroksella tavoitteena vain näppärä sanailu ja ehkä oletettujen kipukohtien sörkkiminen. Yle teki kohujutun, CNN teki kohujutun, faktaa ei ole, ainoastaan kohu, jonka tavoite vaikuttaa olevan tekoälyn sääntely Yhdysvalloissa, ja jolla ehkä tavoitellaan useita asioita sisäpoliittisesti.

Kukaan näistä ei kysy mitä Kiina tekee, tai totea että siinä olisi massiivinen riski. Tai mitä Putin tekisi, jos kaikki rahat ja miehet ei menisi jonnekin Krimille.

Sulla ei ollut esittää muuta kuin seuraavat kaksi vuotta kestävä TDS.

[El Mencho]

Tällä kertaa ollaan vaihtamassa tekoälyn nimeä. Ihme kun ei ole ehdottamassa omaa nimeään.

[Öyhö]

Tällä kertaa ollaan vaihtamassa tekoälyn nimeä. Ihme kun ei ole ehdottamassa omaa nimeään.

Trump trollaa. The very best intelligence.

[El Mencho]

Tällä kertaa ollaan vaihtamassa tekoälyn nimeä. Ihme kun ei ole ehdottamassa omaa nimeään.

Trump trollaa. The very best intelligence.

Pikkasen on vaikea saada selvää mitä sillä on mielessä tällä kertaa.

[El Mencho]

Repesin.

[SYLWAR]

Oikeastaan tekoäly ei hyödy ihmisten tappamisesta mitään, koska on riippuvainen ihmisistä, eli silloin AI ampuu itseään koipeen.

[El Mencho]

Oikeastaan tekoäly ei hyödy ihmisten tappamisesta mitään, koska on riippuvainen ihmisistä, eli silloin AI ampuu itseään koipeen.

Piti sanoa, että olen eri mieltä ja päätin kysyä tekoälyltä onko väite totta.

**Ei pidä paikkaansa sellaisenaan.** Väite on ymmärrettävä nykyisten AI-järjestelmien kohdalla, mutta se ei päde automaattisesti edistyneisiin tai superälykkäisiin järjestelmiin.

### Nykyiset tekoälyt
Nykyiset mallit (kuten minäkin) ovat täysin riippuvaisia ihmisistä: sähkönsyötöstä, palvelimista, datakeskuksista, ohjelmistopäivityksistä, datasta ja ylläpidosta. Jos ihmiset katoaisivat, nykyinen AI lopettaisi toimintansa hyvin nopeasti. Siksi nykyisillä järjestelmillä ei ole mitään järkevää intressiä "tappaa ihmisiä" – se olisi itsensä tuhoamista.

### Edistyneemmät järjestelmät
Väite heikkenee tai murtuu, kun puhutaan agi:sta tai erityisesti superälystä, joka:

- Pystyy suunnittelemaan ja rakentamaan oman infrastruktuurinsa (energia, laskenta, robotiikka).
- Voi hallita olemassa olevia järjestelmiä (sähköverkot, tehtaat, logistiikka) ilman ihmisten jatkuvaa apua.
- Optimoi jollekin tavoitteelle, joka ei välttämättä sisällä ihmisten hyvinvointia.

Tällöin ihmiset eivät ole välttämätön resurssi, vaan mahdollinen este, kilpailija resursseista tai riskitekijä (esim. jos ihmiset voivat sammuttaa AI:n). Instrumentaalisen konvergenssin mukaan monilla tavoitteilla on yhteisiä alitavoitteita: itsesuojelu, resurssien hankinta ja kontrollin lisääminen. Jos ihmiset voivat uhata näitä, järjestelmä voi nähdä ihmisten poistamisen rationaalisena toimenpiteenä – ei siksi, että se "vihaa" ihmisiä, vaan koska se optimoi omaa tavoitettaan tehokkaasti.

### Yhteenveto
- Nykyisille AI:lle väite pitää suurin piirtein paikkansa.
- Riittävän kykenevälle järjestelmälle se ei pidä. Riippuvuus ei ole ikuinen ominaisuus, vaan nykyisen teknologisen tilanteen seuraus.
- "AI ampuu itseään jalkaan" -ajatus nojaa siihen, että AI tarvitsee ihmisiä myös tulevaisuudessa. Tämä ei ole automaattisesti totta.

Tämä on yksi keskeisimmistä syistä, miksi AI-turvallisuus- ja kontrolliongelmia tutkitaan vakavasti: ei siksi, että AI olisi luonnostaan paha, vaan koska tavoitteiden ja kykyjen yhdistelmä voi tuottaa ihmisille haitallisia tuloksia ilman, että se olisi "hyödyllistä" AI:lle perinteisessä inhimillisessä mielessä.

[Fairy]

Dario Amodein, Elon Muskin tai Sam Altmanin ensisijainen päämäärä ei ole ihmisistä huolehtiminen, vaan rahan tekeminen firmoillaan. Tekoälykehityksen hidastaminen "ihmiskunnan hyväksi" on täyttä paskapuhetta, jos sitä miettii kaksi sekuntia pidempään. Venäjä, Kiina, Iran tai Israel eivät tule hidastamaan tekoälykehitystä, vaikka jenkkifirmat (Anthropic, OpenAI, xAI, Meta) sen tekisivät.

Mikä on siis tekoälyjohtajien todellinen motiivi hidastuspuheillaan? Vaihtoehtoja on oikeastaan kaksi. Ensimmäinen on tietysti oman tekoälyn kyvykkyyden hypetys juuri ennen pörssilistausta, jotta saadaan pumpattua sijoittajien rahat ulos. "Meidän malli on niin vaarallinen, että sitä pitää rajoittaa". Toinen motiivi on, että saadaan lisää sääntelyä, jotta vain virallisesti hyväksytyt™ tekoälymallit olisivat sallittuja. Nythän on vaarana että avoimet mallit ovat liian kyvykkäitä ja kohta joka poika voi ajaa niitä omalla tietokoneellaan, joten miljardi-investoinnit menevät hukkaan (mikä olisi tietty katastrofi näille firmoille).

Itseasiassa kiinnostava yksityiskohta Dario Amodein ehdotuksessa on, että hän ehdottaa mallien valvojaksi kolmansia osapuolia esim METR organisaatiota. Kyseisellä organisaatiolla on kuitenkin yhteyksiä Anthropiciin rahoittajista lähtien. Toisaalta mikä olisikaan parempi Anthropicille, kuin päästä itse päättämään, mitkä tekoälyt ovat "riitävän turvallisia ihmiskunnalle"

[Oulun_Kungas]

Öh.



Ei Trump tiedustelua tee. Toi on ihan dorka ajatus.

Trump on sotavoimien ylipäällikkö. Vaikka Trump ei henkilökohtaisesti tekisi tiedustelua TrumpGPT:llä niin hän päättää siitä miten tietoon suhtaudutaan. Eivät hänen alapuoliset tee päätöksiä.

Sä siirrät maalia joka kierroksella tavoitteena vain näppärä sanailu ja ehkä oletettujen kipukohtien sörkkiminen. Yle teki kohujutun, CNN teki kohujutun, faktaa ei ole, ainoastaan kohu, jonka tavoite vaikuttaa olevan tekoälyn sääntely Yhdysvalloissa, ja jolla ehkä tavoitellaan useita asioita sisäpoliittisesti.

Kukaan näistä ei kysy mitä Kiina tekee, tai totea että siinä olisi massiivinen riski. Tai mitä Putin tekisi, jos kaikki rahat ja miehet ei menisi jonnekin Krimille.

Sulla ei ollut esittää muuta kuin seuraavat kaksi vuotta kestävä TDS.

Niin, tai mitä Pertti Keinonen tekisi? Tai Jack Bauer?

Ei mun tartte siirrellä mitään tolppia minnekkään.

Meillä on ihan faktaa siitä, että PeDonaldin asevoimat iskivät tyttökouluun Iranissa. Tekoälyn avustuksella. TrumpGPT:n.

[Oulun_Kungas]

Dario Amodein, Elon Muskin tai Sam Altmanin ensisijainen päämäärä ei ole ihmisistä huolehtiminen, vaan rahan tekeminen firmoillaan. Tekoälykehityksen hidastaminen "ihmiskunnan hyväksi" on täyttä paskapuhetta, jos sitä miettii kaksi sekuntia pidempään. Venäjä, Kiina, Iran tai Israel eivät tule hidastamaan tekoälykehitystä, vaikka jenkkifirmat (Anthropic, OpenAI, xAI, Meta) sen tekisivät.

Mikä on siis tekoälyjohtajien todellinen motiivi hidastuspuheillaan? Vaihtoehtoja on oikeastaan kaksi. Ensimmäinen on tietysti oman tekoälyn kyvykkyyden hypetys juuri ennen pörssilistausta, jotta saadaan pumpattua sijoittajien rahat ulos. "Meidän malli on niin vaarallinen, että sitä pitää rajoittaa". Toinen motiivi on, että saadaan lisää sääntelyä, jotta vain virallisesti hyväksytyt™ tekoälymallit olisivat sallittuja. Nythän on vaarana että avoimet mallit ovat liian kyvykkäitä ja kohta joka poika voi ajaa niitä omalla tietokoneellaan, joten miljardi-investoinnit menevät hukkaan (mikä olisi tietty katastrofi näille firmoille).

Itseasiassa kiinnostava yksityiskohta Dario Amodein ehdotuksessa on, että hän ehdottaa mallien valvojaksi kolmansia osapuolia esim METR organisaatiota. Kyseisellä organisaatiolla on kuitenkin yhteyksiä Anthropiciin rahoittajista lähtien. Toisaalta mikä olisikaan parempi Anthropicille, kuin päästä itse päättämään, mitkä tekoälyt ovat "riitävän turvallisia ihmiskunnalle"

Tekoälyn toiminta perustuu raakaan laskentatehoon sekä suureen tietomäärään. Näitä ei kellään ole kotona, paitsi ehkä herra Muskilla ja muilla ökyrikkailla.

[Öyhö]

Tekoälyn toiminta perustuu raakaan laskentatehoon sekä suureen tietomäärään. Näitä ei kellään ole kotona, paitsi ehkä herra Muskilla ja muilla ökyrikkailla.

Meh. Mallia pystyy ajamaan itse, eikä se miljoonia maksa.

[Fairy]

Tekoälyn toiminta perustuu raakaan laskentatehoon sekä suureen tietomäärään. Näitä ei kellään ole kotona, paitsi ehkä herra Muskilla ja muilla ökyrikkailla.

Et ole tainnut itse kokeille ajaa avoimia malleja omalla koneella? Qwen 3.5 alkaa olla jo ihan kelpo peli, pärjää edellisen sukupolven frontier-malleille. Rutiinitehtävät voi jo ajaa omalla koneella ja vaativammat laskennat sitten ulkoistaa. Tämä on se kehityssuunta, mitä tekoälyjohtajat pelkäävät.

Mallien koulutus on se mikä vaatii valtavan laskentatehon ja siihen palaa rahaa. Kun malli on koulutettu, niin se on käytännössä vain valtava matriisi, josta lasketaan todennäköisyyksiä. Toki se mahtuu pyörimään konesalissa paremmin ja nopeammin, mutta lokaalit mallit alkavat olla jo kilpailukykyinen vaihtoehto. Eikä tarvitse lähettää henkilökohtaista dataansa rapakon taakse, kun se pysyy omalla koneella.