Znanost in tehnologija

'Haluciniranje' orodja ChatGPT. Grozi odprtje preiskave

Dunaj, 30. 04. 2024 15.35 |

PREDVIDEN ČAS BRANJA: 2 min

Ameriškemu podjetju OpenAI, ki upravlja s spletnim klepetalnim robotom ChatGPT, v Avstriji grozi odprtje preiskave. Skupina zagovornikov na področju zasebnosti na spletu je namreč regulatorju podala pritožbo zaradi netočnih oz. izmišljenih odgovorov, ki jih podaja orodje na vprašanja uporabnikov, in nezmožnosti OpenAI, da te odgovore popravi.

Avstrijska neprofitna zagovorniška skupina NOYB je prijavo zoper OpenAI podala pri regulatorju na področju varstva podatkov. V NOYB opozarjajo na "haluciniranje" orodja ChatGPT, ki da si, ko ne pozna pravilnega odgovora, tega preprosto izmisli, poročajo tuje tiskovne agencije.

Aktivisti kot primer navajajo dejstvo, da klepetalni robot, ki ustvarja odgovore z umetno inteligenco, ni vedel, kdaj ima rojstni dan ustanovitelj NOYB Max Schrems, a je kljub temu ugibal in pri tem navedel napačni datum.

Umetna inteligenca
Umetna inteligenca FOTO: Shutterstock

Predstavniki OpenAI so v preteklosti že priznali, da tudi sami ne morajo upravljati z odgovori, ki jih ponudi ChatGPT, tako da so nezmožni popraviti morebitne zmote. Iz NOYB so sporočili, da so podjetje opozorili na napačni datum Schremsovega rojstnega dne, a da v OpenAI glede tega niso ukrepali, rekoč da je to nemogoče.

Zahtevek za dostop do osebnih podatkov

Hkrati niso zadostno odgovorili na njegov zahtevek za dostop do osebnih podatkov, s katerimi razpolaga ChatGPT, so sporočili iz nevladne organizacije. Slednje pa je še posebej problematično na področju osebnih podatkov, ki jih varuje pravo EU, saj zahteva, da morajo biti natančni, opozarjajo v NOYB.

Ta pritožba ne predstavlja prve pravne ovire za ChatGPT, ki je bil marca letos zaradi domnevnih kršitev splošne uredbe EU o varstvu podatkov (GDPR) začasno blokiran že v Italiji, lastno preiskavo pa so zagnali tudi pristojni organi v Franciji.

Nagnjenost ChatGPT k podajanju izmišljenih odgovorov so preiskovali tudi ameriški mediji. Časnik New York Times je poročal o tem, da so si spletni klepetalni roboti izmislili odgovore v vsaj treh odstotkih primerov, mestoma pa celo v več kot četrtini primerov.

UI Vsebina ustvarjena brez generativne umetne inteligence.
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

KOMENTARJI (38)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

mbedrac
01. 05. 2024 19.28
ChatGPT si ničesar zanalašč ne izmišlja ali halucinira. To lastnost so mu pripisali nevedni novinarji. Napačen odgovor je napačen odgovor in nič drugega. ChatGPT samo statistično ugiba, katere besede naj vam zloži v odgovor. V bistvu nima pojma, kaj ste ga vprašali, niti kaj odgovarja, je samo najboljši statistični zadetek. Jaz sem sicer navdušen nad rezultati, ne moreš pa pričakovat točnosti.
Juzles Iters
10. 05. 2024 09.19
ap100
01. 05. 2024 10.02
to je pa zelo človeško
Komunisti_povsod so
30. 04. 2024 21.59
-1
Skozi Karavanke so kaj fasali. #SFRJ virus
Sixten Malmerfelt
30. 04. 2024 21.56
+1
Ai - ameriške - gluposti!
Juzles Iters
10. 05. 2024 09.19
Mr. Jones
30. 04. 2024 21.15
+1
Saj človek si tudi pogosto kaj izmišljuje, ko ne ve odgovora, samo da bi impresioniral sogovornika. Še ne dokaz več, da gre za človeku podobno inteligenco. Ko bo še umetna inteligenca bolj napredovala oziroma se približala človeški, lahko pričakujete še več neprijetnih človeških lastnosti, kot je namerno laganje namenom doseči kakšen cilj, ali pa kovanje spletk porti komu ali skupini ali celo celotni družbi. Samo poglejte v kakšno SF knjigo ali film, ki so v bistvu v tem pogledu dokumentarci o prihodnosti.
celjan2
01. 05. 2024 20.42
in na koncu se bo AI vprašala, ali še sploh potrebuje ljudi!
Vesna Kovacevic
30. 04. 2024 19.15
Ja vi moj medij.Ne gre brez tehnologije
_Heisenberg_
30. 04. 2024 19.19
devote
30. 04. 2024 18.52
+0
kaj dobrega ziher ne bo razvilo zavesti ..kak Satan pa vedno in laz je prva karakteristika Satana.
medusa
30. 04. 2024 18.26
+0
To pomeni,da je zmozen razmisljati zase.Kot otrok daje netocne odgovore,da bi zadovoljil vprasanja starjev. Super😜.Otroku poves pravilni odgovor in ne da ga zatozis ravnatelju! I 💗AI😘
Acjom1
30. 04. 2024 18.34
+5
Res, res si ne želiš, da AI razvije zavest. In kot drugo, chat gpt se popolnoma zmede, ko ga popraviš in ti v večino primerov naprej laže.
NeXadileC
30. 04. 2024 18.11
+1
Nekaj jemlje...
traparija
30. 04. 2024 17.37
+3
ja in, a slovenček but4lček bi rad da mu chat bot napove pravilne loto številke, sicer bo užaljenček s0nček zaprep4dena j0kica klical mamico da ga reši povzročenega finančnega bremena v katerega se je namočil vsled lastne b3bav0sti ? kdo pa prav da ti je chatbot dolžen karkoli relevantnega povedat, to so igračke, tako kot avtomobilčki na baterije, ne resno delovno orodje. but4lčki spet v elementu, hehehehe. a ko ti mediji fors irajo f a k e ne ws vsak dan, je pa vredu? hahahahahahaha.
_Heisenberg_
30. 04. 2024 17.19
+5
Jaz sem ga vprasal kako hitro pride hitrost zvoka in svetlobe od zemlje do lune.Pa mi oravi da zvok pride prej kot svetloba.Haha...sem ga se parkrat vprasal in v 4to je sele pravilno odgovoril.Imam posneto 😅
RdečiKarton
30. 04. 2024 18.03
-1
Ne vem kak AI vi uporabljate. ChatGPT 3.5 mi je s prve podal takšen odgovor; Hitrost zvoka in hitrost svetlobe se zelo razlikujeta. Hitrost zvoka je precej počasna v primerjavi s hitrostjo svetlobe. Hitrost zvoka se spreminja glede na različne dejavnike, kot so temperatura, gostota medija in sestava materiala. V zraku pri normalnih pogojih je hitrost zvoka približno 343 metrov na sekundo. Čeprav se zvok lahko prenaša skozi trdne snovi, tekočine in pline, je hitrost prenosa odvisna od lastnosti teh materialov. Na drugi strani pa je hitrost svetlobe v vakuumu enaka približno 299.792.458 metrov na sekundo. Ta hitrost se ne spreminja glede na medij, skozi katerega potuje svetloba. Zdaj pa glede na to, da je Luna oddaljena od Zemlje približno 384.400 kilometrov, lahko izračunamo, koliko časa traja, da svetloba in zvok dosežeta Luno: Svetloba doseže Luno v približno 1,28 sekunde, saj potuje s hitrostjo skoraj 300 tisoč kilometrov na sekundo. Zvok pa bi dosegel Luno v približno 2,5 dneh, če bi se prenašal skozi vakuum vesolja. Vendar pa v realnosti zvok potrebuje trdno snov, skozi katero se lahko prenaša, in čeprav je med Zemljo in Luno vesolje, bi se zvok prenašal po površju in skozi material Lune, kar bi upočasnilo njegovo pot. Kljub temu je hitrost zvoka v luni precej manjša kot na Zemlji, saj je luna brez atmosfere in material, skozi katerega se zvok prenaša, je drugačen.
NeXadileC
30. 04. 2024 18.13
-1
Skužil je da ga hecaš, pa se je pohecal tudi on...
_Heisenberg_
30. 04. 2024 18.45
jah lej imam posneto .Posli mi mail pa ti poslem video.
M_teoretik
30. 04. 2024 17.05
+2
Izmislili odgovore!? Kot, da ima človeške lastnosti!?
NeXadileC
30. 04. 2024 18.15
Je umetna inteligenca, torej je ustvarjalen. Zaradi tega tudi lahko halucinira, za enkrat.
Morgoth
30. 04. 2024 17.05
+4
Ena naloga za vse zagovornike "AI": Vprašajte Chat GPT koliko spolov obstaja. 🤡
Kranjec Petka
30. 04. 2024 17.36
+2
RdečiKarton
30. 04. 2024 18.01
+1
Naredil sem domačo nalogo in odgovor je bil sledeč; Pri človeku poznamo dva spola: moški in ženski. Tradicionalno so spol določali glede na biološke značilnosti, kot so kromosomi (moški imajo XY, ženske pa XX), spolni organi in hormoni. Vendar pa se v sodobni družbi vedno bolj zavedamo, da je spol kompleksen in se lahko razlikuje od bioloških značilnosti. Obstajajo ljudje, ki se identificirajo kot transspolni, nebinarni ali pa imajo druge identitete, ki ne ustrezajo tradicionalni binarni delitvi med moške in ženske. Pomembno je spoštovati in priznavati raznolikost spolnih identitet ter se zavedati, da so spolne identitete individualne in lahko raznolike.
b1azonja
30. 04. 2024 18.37
+2
Ti si samo se eno orodje, zacni razmislat s svojo glavo
ipissimus
30. 04. 2024 17.00
-5
Kako lahko tem programom sploh rečejo umetna inteligenca če to ni.Vse AI je moral nekdo narediti in naučiti sistem glede ogovorov, se pravi je to IQ žive osebe vnešeno v software in ne samorazmišljanje robota brez človeške pomoči.In potem se čudijo kako se lahko zmoti
NeXadileC
30. 04. 2024 18.17
+2
devote
30. 04. 2024 18.55
-1
in kaj novega je ze pogruntal?? ... prezveceni in 10krat okrog obrnjeni podatki ne stejejo.
M_teoretik
30. 04. 2024 16.59
-1
Ne znajo pravilno zastavit ChatGPTju ?, pol je pa ChatGPT kriv!?
Xdata1
30. 04. 2024 16.49
-1
To ni nič novega, da po svoje napiše odgovor.
Rožice že odcvetajo
30. 04. 2024 16.43
+16
Današnji in prihodnji mulariji se nič dobrega ne obeta, predvsem tistim, brez svojih možganov....teh je iz dneva v dan več.
CestniKolesar370Wattov
30. 04. 2024 16.30
+11
Hahahahaha. Tozba proti openchat ai zaradi netocnih informacij. Ma vi ste padli ma glavo. Kaksna tozba. V TOS pise, da so info informativne narave in za netocnost ne odgovarjajo. Uporaba na lastno odgovornost. Ce si pa kramp, si pa kramp.
231koak
30. 04. 2024 16.11
+4
za vsak drug prompt se ti upraviči. Bi rekel skoraj neuporabno
Artechh
30. 04. 2024 16.05
+5
Najbolj smesno mi je pa takoj ob izidu je glede spolov navajal bioloska dejstva, kmalu za tem ko so prisli popravki, je pa zacel po zahodnihnih zblojenih standardih blodnje generetirati