Închide
Sabina Alexandra Ștefănescu, activist, programator și expert în securitate cibernetică, a publicat, pe pagina sa de Facebook, o postare-avertisment despre Lensa AI, aplicația prin care fotografiile utilizatorilor sunt transformate în ”avataruri” cu ajutorul inteligenței artificiale.
Specialista în tehnologie digitală atrage atenția asupra faptului că Lensa este o aplicație controversată, inclusiv pentru că și-ar putea însuși fotografiile și postările utilizatorilor.
Ce spune Sabina Alexandra Ștefănescu:
Lensa este o aplicație construită pe spinarea exploatării.
Nu e rău că ne place să ne vedem în desene frumoase. Nu e rău, deloc, că ne dorim să experimentăm cu imagini. Nu e rău că simțim bucurie când vedem rezultatele.
Este, însă, foarte important să înțelegem ce sunt tehnologiile pe care le folosim. Și e la latitudinea fiecăruia dintre noi să facă o decizie informată, dacă vrea să exploateze, la rândul său și să fie exploatat.
Las aici un auto-portret pe care mi l-am făcut singură, mai demult. Ilustrează foarte bine ce simt când văd cum sunt exploatate munca și viețile oamenilor în numele „tehnologiei”.
Dau un pic de context și las toate link-urile în comentarii:
1. Lensa este o tehnologie creată prin exploatare
Lensa se bazează pe modelul Stable Diffusion. Modelul ăsta, care are sursele deschise, a fost antrenat pe imagini fără consimțământul creatorilor acelor imagini.
Câteva exemple: Kim Jung Gi, Greg Rutkowski, Karla Ortiz, Sam Yang.
Cum multe imagini folosite conțineau semnăturile artiștilor, aceste semnături se pot vedea inclusiv în imaginile generate. Dacă ați încercat aplicația Lensa, puteți să vă uitați în rezultate după aceste semnături sau fragmente din ele.
Mai mult, Stable Diffusion a fost antrenat inclusiv pe fotografii din dosare medicale ale oamenilor. O persoană a descoperit imagini cu sine, dintr-un dosar medical pe care doar doctorul său avea dreptul să îl consulte.
Cum s-a întâmplat asta? Lensa folosește modelul Stable Diffusion, care a fost antrenat folosind o bază de date numită LAION.
Stable Diffusion e creat de Stability AI (plus RunwayML, cercetători de la Heidelberg University, plus grupurile EleutherAI și LAION).
Fondatorul Stability AI, Mostaque, spune că Stability AI a finanțat crearea bazei de date LAION 5B, și a altor baze de date LAION.
LAION a adunat imagini de pe Internet, fără discernământ. Baza de date conține imagini cu drepturi de autor (încălcate, astfel), imagini personale private, imagini violente, explicite și inclusiv imagini pornografice.
Stability AI face bani din antrenarea modelelor pentru clienți privați. Stable Diffusion, modelul care stă la baza Lensa, are sursele deschise, deci nu generează venit. Stability AI își permite să facă asta și datorită unei investiții de 101 de milioane de dolari primită în octobmrie 2022. Finanțarea vine de la Coatue ca finanțator principal, plus Lightspeed Venture Partners și O’Shaughnessy Ventures LLC.
În concluzie: Lensa e o aplicație plătită, care se bazează pe un model antrenat pe imagini folosite fără consimțământ.
2. Imaginile noastre și postările noastre sunt și ele însușite de Lensa
Termenii și condițiile de folosite a aplicației Lensa spun că Lensa spun că, atunci când încărcăm imaginile cu noi în aplicație, dăm companiei dreptul să folosească și să distribuie imaginile noastre. Drepturile pe care le dăm Lensa sunt permanente și irevocabile.
Mai mult, atunci când postăm online și tag-uim Lensa, oferim companiei drepturi să folosească inclusiv conținutul postării noastre.
Nu e rău că vrem să ne vedem prin ochii altora. O alternativă mai faină și mai sănătoasă pentru comunitățile artistice ar fi să plătim un artist să ne deseneze așa cum ne dorim.
Sau putem participa, ca model, la sesiuni de crochiuri, unde mai mulți artiști ne desenează. Ei câștigă, din asta, o sesiune de studiu și de antrenament, iar noi ne putem vedea prin ochii lor. În unele cazuri, artiștii sunt dispuși să ne ofere crochiurile.
