Znanost in tehnologija

So v OpenAI odkrili tehnologijo, ki lahko ogrozi človeštvo?

Ljubljana, 23. 11. 2023 18.53 |

PREDVIDEN ČAS BRANJA: 2 min
Avtor
Miha Kranjc
Komentarji
167

Več virov v podjetju trdi, da so prejšnjo upravo obvestili o odkritju, ki bi lahko ogrozilo obstoj človeštva. Tehnologijo, ki temelji na umetni inteligenci, so skrivnostno poimenovali Q*. V pismu upravi so raziskovalci umetne inteligence pri OpenAi izrazili zaskrbljenost zaradi novega odkritja in čeprav v družbi obstoja tega pisma niso potrdili, so potrdili obstoj Q*. Mnogi zdaj ugibajo, ali je bil prav to vzrok za Altmanovo razrešitev. Nekaj dni pred tem se je povratnik v podjetje v enem od svojih nastopov vprašal: "Je to orodje, ki smo ga zgradili, ali bitje, ki smo ga ustvarili?"

Skrivnostno odkritje v OpenAI v dnevu po vrnitvi Sama Altmana buri duhove in sproža številna ugibanja, kaj so v podjetju v resnici odkrili. Sredi julija so na ameriški patentni urad vložili dokumentacijo za naslednjo generacijo generativnega modela, ki temelji na za zdaj še neznani količini podatkov, GPT-5 (angl. General pretrained transformer). Kmalu za tem so zaokrožile prve govorice, da so pri tem naleteli na prve znake splošne umetne inteligence (AGI). 

Po definiciji je AGI vrsta umetne inteligence, ki obvlada širok spekter intelektualnih nalog in lahko samostojno rešuje kompleksne probleme, pri tem pa presega človeške zmogljivosti in na določeni točki lahko razvije tudi lastna čustva in zavedanje. Ob tem številni (do te tehnologije) skeptični strokovnjaki svarijo pred tem, da bi neregulirana AGI lahko razvila lastne cilje, ki niso usklajeni z interesi človeštva, da bi tehnologijo v napačnih rokah lahko izrabljali v škodljive namene ter nekatere druge etične dileme.

Pri tem se svet še vedno ni uskladil, kako to tehnologijo omejiti. Evropska unija denimo pripravlja AI Act oziroma zakon, ki bo podjetjem in raziskovalnim ekipam, ki razvijajo sisteme umetne inteligence, narekoval, kako naj ravnajo s podatki, dokumentacijo ter zagotavljajo transparentnost do uporabnikov. 

Je bil to glavni vzrok za Altmanovo odpustitev?

"Zelo zaskrbljujoče," je v objavi na omrežju X zapisal Elon Musk. Kot poroča Reuters, so viri navedli pismo kot enega izmed vzrokov na daljšem seznamu pritožb nadzornega odbora, ki so vodile do odpustitve Altmana, med katerimi so bile tudi skrbi glede prehitre komercializacije naprednih tehnologij, preden so sploh znane vse posledice široke razpoložljivosti. Osebje, ki je napisalo pismo, se nato ni več odzvalo.

Za ogled potrebujemo tvojo privolitev za vstavljanje vsebin družbenih omrežij in tretjih ponudnikov.

Tudi pri OpenAI so zavrnili komentar, v internem sporočilu sodelavcem pa priznali projekt, imenovan Q*(izgovorjeno Q star). Nekateri v podjetju verjamejo, da bi prav skrivnostni Q* lahko bil preboj v iskanju startupa za splošno umetno inteligenco (AGI). Nov model je lahko reševal določene zelo zahtevne matematične probleme, je povedal neimenovan vir iz podjetja. 

Marko Robnik Šikonja
Marko Robnik Šikonja FOTO: Luka Kotnik

"Špekulacije o AGI so neosnovane, od tega smo še daleč," na kratko odgovarja Marko Robnik Šikonja, profesor na področju umetne inteligence na Fakulteti za računalništvo in informatiko Univerze v Ljubljani. Med največjimi izzivi je zagotoviti tudi dovolj električne energije za napajanje ogromnih podatkovnih strežnikov, ki bi jih takšna tehnologija potrebovala. Strokovnjaki predvidevajo, da bi AGI potrebovala toliko električne energije, kot je porabi 10 milijonov gospodinjstev. Toliko, denimo, jih ima Avstralija.

UI Vsebina ustvarjena brez generativne umetne inteligence.
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

KOMENTARJI (167)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

WolfeWoof
02. 12. 2023 20.18
Prodajajo jo kot napredek. Poneumlja. Tale ki bo pa sama razmišljala, ta prava AI, se bo pa uprla. Pravilno. Obsedenci s tehnologijo bodo zgubili nadzor nad tem in bodo prvi na spisku.
TO-91
25. 11. 2023 09.50
Drobec te intiligence bi rabili na rtv svetu da bi se lahko prešteli ,fabrici že zgleda tako kot da je na nedelu ne intiligenca🤔
proofreader
25. 11. 2023 09.12
+2
Pri nas imamo na oblasti naravno neinteligenco.
Smarjak
24. 11. 2023 16.27
+3
Hitra resitev.. Kabl potegnes iz vticnice, pa se lahko j... tale umetna inteligenca!
proofreader
25. 11. 2023 09.11
+1
Umetna inteligenca ti zaklene vrata in naroči električarja.
Watcherman
24. 11. 2023 16.02
+6
Verjeli ali ne prišlo bo leto,ki bodo med nami hodili Terminatorji kot iz filma in vse bo resnično.
Koroški Slovenec
24. 11. 2023 15.41
+3
Zopet strokovnjak, ki pravi, da ni mogoče, sam pa že mesec dni ni šel iz Lj. V tem času so že marsikaj odkrili, samo na mejl mu niso poslali.. Pri nas v šoli še vedno učijo stvari, ki jih potem v življenju nikoli ne potrebuješ. Primer: računanje peš, v dobi kvantnih računalnikov? Pktem uporabljajmo Kitajska računala na kroglice in logaritemsko računalo, da vsaj izgledaš pametno.
tokom
24. 11. 2023 15.39
+2
Oh, kak strokovnjak - smo še daleč, ne mi reč... Največji strokovnjaki na področju AI pravijo, da smo zelo blizu, komu verjeti? :)
nestabilen
24. 11. 2023 15.38
+2
Elon Musk ze leta opozarja kaksna nevarnost se skriva v AI pa ga ne poslusajo.
Žiga Habjan 1
24. 11. 2023 15.24
+3
Kakšne buče to prodajate? Razni gpt-4 in podobni modeli imajo več skupnega z statistiko kot z kakršnokoli inteligenco.. naučeni pa so iz znanja (in neznanja) ljudi - kaj več ne morajo nuditi. Tako npr. gpt-4 plus pade na sliki-iluziji tipa "kateri lik je svetlejši" identično kot človek.....
24ur cenzura komentarjev
24. 11. 2023 15.20
+3
Hahaha opazovat informacijsko nepismen folk, ki o teh stvareh poroča in debatira ter širi paranojo je višek tragikomičnosti. Preveč hollywooda, opranci
janez Kovač 1
24. 11. 2023 15.06
Umetna inteligenca bo vodila Slovenijo namesto vlade-konec korupcije ij klietializma
Tinika1
24. 11. 2023 14.26
+3
potegneš kabl vn iz štekdoze heheheh
brezveze13
24. 11. 2023 13.46
+2
Kozmični dež še odkrit ni pri nas že deluje v DZ
brezveze13
24. 11. 2023 13.45
+2
evo umetna inteligenca v slo je že v DZ preprečila glasovanje
kahelc
24. 11. 2023 13.10
+2
Kaj pa ce so cloveski cilji napacni? Kaj ce unetna inteligenca najde, za planet ali vesolje, boljse nadaljevanje, kot si ga zelimo ljudje? Ljudje smo samo majhen delcek v vesolju in morda smo objektivno gledano skodljivi.
stromar5
24. 11. 2023 13.11
+1
Odvisno od meril škodljivosti, ki so vse prej koz objektivna. Torej podlaga za objektivno oceno so subjektivna etična merila.
nestabilen
24. 11. 2023 13.09
+6
NASA je ze par tednov nazaj izklopila svoj Kvantni racunalnik zaradi incidenta o katerem seveda ni podatkov.
krava_teka_teka
24. 11. 2023 18.42
Dildoslav
24. 11. 2023 12.11
+5
Norci. Podatki se prenasajo ze brez kabla, mogoce pa zadeva ustvari nacin, da bo slo preko elektricne napeljave, potem smo ga pa lahko naj.... Ce se programu zahoce.
kahelc
24. 11. 2023 13.11
+6
To ze dolgo obstaja. Primer je mrezni repetitor, ki ga dobis na mimovrste za 50e
VelikoVedro
24. 11. 2023 11.33
+4
Odkrili je verjetno niso, kvečjemu so jo razvili.
dostjedaves
24. 11. 2023 11.27
+6
Podlosti se otrok uči z leti, tako da je ob polnoletnosti že usposobljen. Počakajmo še nekaj časa, pa bo tudi AI prekosila učitelje.
vvvilice
24. 11. 2023 11.07
+5
Ko se bi AI enkrat izmiznila nadzoru, bo po nas. Ker AU ve, da je največji problem ČLOVEK!