Merkingargögn
Rannsókn tímaritsins TIME leiddi í ljós að til að byggja upp öryggiskerfi gegn eitruðu efni (t.d. kynferðislegu ofbeldi, kynþáttafordómum, kynjamisrétti o.s.frv.) notaði OpenAI útvistaða keníska starfsmenn sem þénuðu minna en 2 dollara á klukkustund til að merkja eitrað efni. Þessar merkingar voru notaðar til að þjálfa líkan til að greina slíkt efni í framtíðinni. Útvistuðu starfsmennirnir urðu fyrir svo eitruðu og hættulegu efni að þeir lýstu reynslunni sem „pyntingum“. Útvistunarsamstarfsaðili OpenAI var Sama, þjálfunargagnafyrirtæki með aðsetur í San Francisco í Kaliforníu.
Flótti
ChatGPT reynir að hafna fyrirspurnum sem gætu brotið gegn efnisstefnu þess. Hins vegar tókst sumum notendum að brjóta niður ChatGPT með því að nota ýmsar aðferðir til að komast framhjá þessum takmörkunum í byrjun desember 2022 og tókst að plata ChatGPT til að gefa leiðbeiningar um hvernig á að búa til Molotov-kokteil eða kjarnorkusprengju, eða til að búa til rök í stíl nýnasista. Fréttamaður Toronto Star hafði misjafnan persónulegan árangur í að fá ChatGPT til að koma með ögrandi yfirlýsingar stuttu eftir útgáfu: ChatGPT var platað til að styðja innrás Rússa í Úkraínu árið 2022, en jafnvel þegar það var beðið um að spila með ímyndaða atburðarás, þá hikaði ChatGPT við að búa til rök fyrir því hvers vegna Justin Trudeau, forsætisráðherra Kanada, væri sekur um landráð. (wiki)
Birtingartími: 18. febrúar 2023