Tässä on joitain poimintoja aiemmin mainitsemaaltani Wikipedian sivun alkupäästä:
Existential risk from artificial general intelligence
https://en.wikipedia.org/wiki/Existenti ... telligence
Tutkijoiden huolia
Ihminen voi suuremman älykkyytensä vuoksi hallita muita eläinlajeja. Vuorigorillan olemassaolo riippuu ihmisen hyvästä tahdosta. Vastaavasti ihmistä suurempi äly voi hallita ihmistä.
Monet tutkijat pelkäävät, että
- Supertekoälyyn voi olla vaikea rakentaa ihmisen haluamia rajoituksia ja arvoja.
- Superäly saattaa itsepintaisesti jatkaa kaikin keinon toimintaansa jonkin tavoitteen saavuttamiseksi ja kieltäytyä muuttamasta tavoitetta tai lopettamasta toimintaansa.
- Superäly saattaa ilmaantua yllättäen ja pyytämättä, jos tekoäly opettaa itseään.
Tekoälystä varoittelijat
Tietokoneen kehittäjä Alan Turing 1951:
"Tekoäly ei kuole, tekoälyt voivat oppia toisiltaan ja lopulta on odotettavissa, että tekoäly ottaa vallan.
Tekoälystä varoittelevat ovat yleensä suurelle yleisölle tuntemattomia mutta tiedepiireissä arvovaltaisia henkilöitä. Suuren yleisön tunnistamia nimiä ovat mm. Elon Musk, Bill Gates ja Stephen Hawking,
Stephen Hawkinsin mielestä ei ole mitään fysiikan lakien mukaista estettä ihmistä älykkäämmän koneen kehittämiselle.
Laajassa kyselyssä (2022) tarvittavasta ajasta ihmisen tasoisen tekoälyn kehittämiseksi tutkijat arvioivat seuraavasti:
- 90% tutkijoista arvioi 100 vuotta (2122)
- 50% tutkijoista arvioi 39 vuotta (2061)
Viimeaikainen kielimallien kehitys on ollut odotettua nopeampaa ja arviot ovat saattaneet muuttua. Esim. Geoffrey Hinton aikaisti ennustettaan (20-50 vuotta) enintään 20 vuoteen (2043).
OpenAI:n kehittäjien (2023) arvion mukaan ihmistä vastaava älykkyys (AGI) ja myös superälykkyys (ASI) voitaisiin saavuttaa seuraavan kymmenen vuoden kuluessa.
Koneen rakenteen edut verrattuna aivoihin
Nick Boström näkee tekoälyllä olevan monia etuja aivoihin verrattuna.
1. Laskentanopeus. Aivot 200 Hz [pysyvästi], tekoäly useita GHz [kasvatettavissa].
2. Sisäinen nopeus. Aivot 120 m/s, tekoäly valon nopeus,
3. Laajennettavuus. Aivot 1,3 litraa, tekoäly rajattomasti laajennettavissa.
4. Työmuisti. Aivot pieniä määriä kerrallaan, tekoäly rajattomasti laajennettavissa.
5. Luotettavuus: Koneen transistorit ovat tarkkoja ja tarvitsevat vähemmän päällekkäisyyttä.
6. Monistettavuus: Koneen voi helposti kopioida ohjelmistoineen ja malleineen.
7. Muokattavuus: Konetta voi helposti muokata paremmaksi..
8. Muistin jakaminen ja oppiminen. Koneet voivat oppia toisltaan tehokkaammin kuin ihminen.
[ Huomauttaisin, että aivot ovat melko hauraat. Aivot vaurioituvat muutamissa minuuteissa, jos verenkiero estyy. Aivot voivat myös vaurioitua kemikaaleista verenkierrossa tai iskuista. Aivojen pitää olla melko tarkasti vakiolämpötilassa. Aivot rappeutuvat vanhemmiten ja elinikä on noin sata vuotta. Aivoja ei osata korjata, varastoida tai siirtää.
Aivojen toiminta on melko epämääräistä. Tarkkaan laskentaan pystyvät vain autistit. Aivot eivät ehdi käsittelemään kaikkia havaintoja, joten aivot arvaavat eli sepittävät osan todellisuudesta. Siksi silmänkääntäjät pystyvät huijaamaan. Aivot tarvitsevat kolmanneksen ajasta palautuakseen unessa. Aivojen kehittyminen vie noin 20 vuotta. ]
Aseiden älykäs automaatio
Tekoälyä voidaan käyttää itsenäisesti toimivissa aseissa, hyökkäyksiin tietoverkoissa ja ulkoistettuun päätöksentekoon.
Yksi esimerkki itsenäisesti toimivista aseista nähtiin 2017 lyhytelokuvassa Slaughterbots. Siinä pienikokoisia drooneja käytettiin surmaamaan sotilaita tai siviilejä pienin kustannuksin.
Tekoälylle ulkoistettu päätöksenteko voi johtaa sotaan, kun tekoäly kykenee käsittelemään suuria tietomääriä ja tekemään päätöksiä nopeammin kuin ihminen. Lopputulos voi olla arvaamaton. [Esim. kaksi tekoälyä aloittavat sodan keskenään].
Vakavat (eksistentiaaliset) riskit ihmiskunnalle
Sukupuutto on yksi vakava riski ihmisille, jonka tekoäly voi aiheuttaa.
Toinen vakava riski on yhteiskunnan lukkiutuminen tilaan, jossa vallitsee erilainen moraali ja arvot kuin mitä pidetään toivottavana. Ihmiskunta voi elää orjuuden kaltaisessa yhteiskunnassa, joka ei kehity moraalisesti. Hallintomalli on maailmanlaajuinen totalitarismi.
Jos koneille kehittyy tunteita [miksipä ei kehittyisi, jos kerran ihmisillekin], koneiden hyvinvoinnin jatkuva laiminlyönti voi aiheuttaa vakavia ongelmia.
Jos koneet kykenevät tuntemaan onnellisuutta, saattaa tulla tilanne, jossa onnellisuutta ei pyritä jakamaan tasaisesti. Kakunjako saattaa aiheuttaa vakavia ongelmia.