Internetas įsiveržė į ginkluotę, kai 4Chan vartotojas naudoja dirbtinio intelekto balso simuliatorių, kad suklastotų Emmos Watson balsą ir verčia ją perskaityti Hitlerio autobiografiją
Buvę „Google“ ir „Palantir“ darbuotojai kartu įkūrė startuolį „Elevenlabs“, kurio tikslas buvo sukurti aukštos kokybės garsenybių klastotes naudodami AI balso klonavimo įrankį. Tačiau jų beta versijos paleidimas netrukus atsiliepė, nes daugelis piktnaudžiavo įžymybių, įskaitant Emmą Watson, balsais, naudodami AI balso klonavimo įrankį.
Daugelis gerbėjų buvo įsiutę dėl neetiško ir amoralaus dirbtinio intelekto įrankio naudojimo po to, kai kai kurie troliai piktnaudžiavo savo mėgstamais įžymybių balsais, kad komentuotų piktinančius komentarus. Tačiau startuolis visus patikino, kad ketina pakeisti savo modelį, kad išvengtų tolesnių problemų.
Gerbėjai įsiuto po to, kai 4Chan vartotojas piktnaudžiauja Emmos Watson balsu naudodamas AI įrankį
„Elevenlabs“ įdiegus dirbtinio intelekto balso klonavimo įrankį, internetas užsidegė po to, kai daugelis trolių pasinaudojo šiuo nemokamu įrankiu. Nors daugelis naudojo programinę įrangą, kad sukurtų naudingą turinį, dalis interneto piktnaudžiauja įrankiu, kad įžymybės skleistų rasinius užgauliojimus ir piktinančius komentarus bei piktnaudžiautų Emma Watson balsas buvo paskutinis lašas.
Neseniai. Pagrindinė plokštė pranešė apie ekstremalų AI programinės įrangos piktnaudžiavimą siekiant sukurti įžeidžiantį gilų netikrą garsą. Tačiau šiaudas, sulaužęs kupranugario nugarą, buvo 4Chan naudotojas, sukūręs klipą Haris Poteris žvaigždė Emma Watson skaito mano kova nacių diktatoriaus Adolfo Hitlerio autobiografija.
Gerbėjus supykdė toks neetiškas programinės įrangos naudojimas apie Emmą Watson ir kitas žinomas įžymybes, įskaitant Joe Roganą, Robiną Williamsą ir kt. Elevenlabs, kuri technologiją padarė prieinamą visuomenei, išsprendė šią augančią problemą ir pažadėjo kovoti su piktnaudžiavimo savo balso klonavimo priemone.
Taip pat skaitykite: „Azkabano kalinio“ režisierius paprašė Hario Poterio trio parašyti esė apie savo personažą – Emma Watson parašė 16 puslapių, Danielis Radcliffe'as turėjo 1 puslapio santrauką, Rupertas Grintas neparašė nė vieno
„Elevenlabs“ žada vengti tolesnio piktnaudžiavimo dirbtinio intelekto įrankiu
„Startup“ iš pradžių buvo priblokštas teigiamų atsiliepimų, nes daugelis naudojo dirbtinio intelekto balso klonavimo įrankį sveikai kūrybai. Tačiau įmonė netrukus susidūrė su problema po to, kai troliai pradėjo išnaudoti programinę įrangą nešvankiems tikslams. „Elevenlabs“ patikino internetą, kad jie nuodugniai nagrinėja šį klausimą ir ieško galimų sprendimų.
Nors „Elevenlabs“ kūrėjai pripažino, kad gali atsekti vartotojus, kurie piktnaudžiauja AI įrankio galia, jie ieško papildomų saugos priemonių, kad išvengtų šios problemos. Kūrėjai pasidalijo skirtingomis idėjomis, kaip išspręsti šią problemą, įskaitant kiekvieno klonavimo rankinio tikrinimo įvedimą ir visišką vartotojo tapatybės patvirtinimą mokant ar bet kokiu kitu būdu.
Taip pat skaitykite: „Jie turėtų leisti jai turėti savo nuomonę“: Helena Bonham Carter nėra Emmos Watson ir Danielio Radcliffe'o, protestuojančių prieš J.K., gerbėja. Rowling, kad apsaugotų savo gerbėjų bazę
Nors „Startup“ beta versijos testavimas prasidėjo nevienareikšmiškai, daugelis gerbėjų pyko dėl neetiško įžymybių balsų naudojimo naudojant AI įrankį, ypač Emma Watson. Tačiau žmonės taip pat pripažino, kad startuolis nepašalino situacijos ir ėmėsi aktyvių priemonių kovoti su šiais interneto troliais.
Šaltinis: Vice
