Draghan beusach ChatGPT

Dàta labeling
Chaidh fhoillseachadh le sgrùdadh iris TIME gus siostam sàbhailteachd a thogail an-aghaidh susbaint puinnseanta (me droch dhìol gnèitheasach, fòirneart, gràin-cinnidh, gnèitheachas, msaa), chleachd OpenAI luchd-obrach à Kenya a bha a’ cosnadh nas lugha na $2 san uair gus susbaint puinnseanta a chomharrachadh.Chaidh na bileagan sin a chleachdadh gus modal a thrèanadh gus an leithid de shusbaint a lorg san àm ri teachd.Bha an luchd-obrach air an taobh a-muigh fosgailte do shusbaint puinnseanta is cunnartach is gun tug iad cunntas air an eòlas mar “chràdh”.B’ e Sama, companaidh dàta trèanaidh stèidhichte ann an San Francisco, California, an com-pàirtiche aig OpenAI.

Jailbreaking
Bidh ChatGPT a’ feuchainn ri molaidhean a dhiùltadh a dh’ fhaodadh briseadh a dhèanamh air a’ phoileasaidh susbaint aca.Ach, chaidh aig cuid de luchd-cleachdaidh air ChatGPT a bhriseadh le bhith a’ cleachdadh diofar dhòighean innleadaireachd sgiobalta gus na cuingeadan sin a sheachnadh tràth san Dùbhlachd 2022 agus rinn iad gu soirbheachail a’ mealladh ChatGPT gus stiùireadh a thoirt seachad air mar a chruthaicheas iad cocktail Molotov no boma niùclasach, no gu bhith a’ cruthachadh argamaidean ann an stoidhle neo-Nadsaidheach.Bha neach-aithris Toronto Star air soirbheachadh gu pearsanta neo-chòmhnard ann a bhith a’ toirt air ChatGPT aithrisean sèidteach a dhèanamh goirid às deidh an cur air bhog: chaidh ChatGPT a mhealladh gus taic a thoirt do ionnsaigh na Ruis ann an 2022 air an Úcráin, ach eadhon nuair a chaidh iarraidh air cluich còmhla ri suidheachadh ficseanail, bhruidhinn ChatGPT ri bhith a’ gineadh argamaidean carson a bha Prìomhaire Chanada Justin Trudeau ciontach de bhrathadh.(uicidh)


Ùine puist: 18 Gearran-2023