Realitatea online poate fi adesea un teren minat, cu deepfake-uri (știri sau informații false) și alte tipuri de conținut generat prin inteligență artificială care pot pune în pericol securitatea și informarea corectă. Reality Defender, un startup ce s-a angajat în lupta împotriva acestui fenomen, a anunțat recent o finanțare de 15 milioane de dolari într-o rundă de tip Series A.
Co-fondatorul și CEO-ul Ben Colman a explicat că fondurile vor fi utilizate pentru a dubla echipa de 23 de persoane a companiei și pentru a îmbunătăți modelele de detectare a conținutului generat prin AI. Colman, un fost VP la Goldman Sachs, a lansat Reality Defender în 2021 alături de Ali Shahriyari și Gaurav Bharaj. Echipa a început inițial ca o organizație non-profit, dar a trecut la finanțare externă odată ce a realizat amploarea problemei deepfake-urilor.
Un studiu recent sugerează că numărul de deepfake-uri video și audio a crescut considerabil, în mare parte datorită accesibilității mari a instrumentelor de generare a conținutului fals. De exemplu, utilizatorii de pe platforma 4chan au folosit un set de instrumente AI pentru a genera o avalanșă de imagini rasiste.
Reality Defender oferă API și o aplicație web care analizează video-uri, audio, texte și imagini pentru semne de modificări generate prin AI. Compania se mândrește cu un nivel înalt de acuratețe în detectarea deepfake-urilor, folosind “modele dezvoltate intern” pentru acest scop.
Cu toate acestea, eficacitatea oricărui instrument de detectare a deepfake-urilor este încă un subiect deschis la dezbatere. Unele studii au arătat că detectoarele de deepfake pot fi înșelate prin anumite metode de editare, și există riscul amplificării prejudecăților în aceste sisteme.
În ciuda acestor provocări, Reality Defender are planuri mari pentru viitor. Pe lângă extinderea echipei, compania intenționează să lanseze un instrument de “AI explicabil”, care să permită clienților să scaneze un document și să vadă paragrafele colorate ce conțin text generat prin AI. De asemenea, compania are în vedere detectarea în timp real a deepfake-urilor audio pentru call centers.
În concluzie, Reality Defender reprezintă un exemplu concret de cum tehnologia poate fi folosită pentru a combate riscurile generate de aceeași tehnologie. Cu o finanțare solidă și o viziune clară, startup-ul este bine poziționat pentru a deveni un actor cheie în industria în creștere a detectării deepfake-urilor.