Názory k článku
Podvodům s texty sepsanými umělou inteligencí má zamezit klasifikátor od OpenAI

No, řekl bych, že nejdůležitější informace v článku je:

U anglicky psaných textů klasifikátor správně detekoval 26 % textů vytvořených umělou inteligencí jako „pravděpodobně sepsané AI“ (true positives), zatímco nesprávně vydával text napsaný člověkem za text od AI v 9 % případů (false positives)

Takže titulek bych změnil na "OpenAI spustil klasifikátor, který je celkem k ničemu."

Úspěšnost lehce nad jednou čtvrtinou a oproti tomu téměř desetinová chybovost typu false-positive z toho dělá celkem zbytečný nástroj. Většině podvodníků podvod projde a naopak se za podvodníky označí stejný objem osob, jako je třetina usvědčených, čili víc jak čtvrtina obviněných byla obviněna neprávem...

Pokud na univerzitě bude podvádět 100 studentů z tisíce, tak to usvědčí 21 podvodníků a 81 (9 % z 900) bude obviněno neprávem. Tedy obviní to 102 lidí a jen pětina budou skuteční podvodníci.

To by mne zajímalo, zda by to na mne fungovalo stejně blbě, jako CAPTCHA - ta mne v drtivém počtu případů prohlásí za robota, byť ty obrázky označím správně.
Nejspíš můžu být rád, že jsem psal diplomku v dobách, kdy nikoho nezajímalo, zda jsem opisovat, či zda to tvořila nelidská inteligence. ;oD

Vidim to tak ze bude treba pravidelne ukladat nejen praci samotnou ale i jakysi zurnal s upravami a historii jak jsem k danym vecem dosel. Ach jo...

Záleží na poměru podvodníků, ale ta úspěšnost je bídná.

S Captchou mám opačný problém. Já osobně mám menší úspěšnost v rozpoznání symbolů na obrázku, než AI (konkrétně autocaptcha parametr u ulozto-downloaderu) :-).

a není to tím, že captcha od Googlu používá jako referenční vzorek právě odpovědi od ostatních? Pokud budou převládat při vyplňování roboti, tak i správné odpovědi by se měly postupně více přiblížit vidění robotů než lidí.

Abychom prokázali, že jsme lidi, musíme se vcítit do robota a vyplnit to podle něho, může to znít paradoxně, ale není to tak, nebo myslíte si, že současní "roboti" se umí vcítit do někoho jiného a tvářit se tak? To zatím umí jen člověk. Systém, který pustí roboty a všechni lidi, kteří se umí jako roboti tvářit vypadá jako revoluční evoluce.

Jo, mám to špatně, díky za opravu ;-).

Většině podvodníků podvod projde a naopak se za podvodníky označí stejný objem osob, jako je třetina usvědčených, čili víc jak čtvrtina obviněných byla obviněna neprávem...

A to si vážně myslíte, že tohle bude jediný použitý nástroj a že jen na základě výsledku z toho nástroje někdo někoho obviní?

To už se dostáváte do oblasti "Sice to není pravda, ale mohla by být" :)