Aplikácia odstraňuje oblečenie z fotografií žien a je to nechutný prípad zneužívania umelej inteligencie
Zrieknutie sa zodpovednosti: Obsah tohto príbehu je „Nie je bezpečné pre prácu“, preto postupujte opatrne. MensXP tiež nie je zdrojom ani propagáciou softvéru. Cieľom tohto príbehu je informovať ľudí o tom, čo môže AI robiť, ak je zneužívaná.
Sú dni, keď sa cítime ohromení všetkým technologickým pokrokom, ktorý zmenil svet k lepšiemu. A potom sú dni, ako je tento, keď sa cítime hrozne a nechutne myslieť na všetko hrozné, čo technológia dokáže.
Väčšina z vás môže mať slovo „Deepfakes“, však? No, ak ste si mysleli, že to bolo hrozné, budete mať strach, že sa dozviete o tomto novom softvéri, ktorý samozrejme nebudem menovať. Je to nechutný softvér a nemôžem nijako rozšíriť jeho meno a propagovať ho.
Je to softvér, ktorý využíva silu umelej inteligencie a neurónových sietí na vytváranie falošných nahých fotografií žien. Áno, viem, na čo si práve myslíš. Je to skutočne nechutná aplikácia, ktorá by na prvom mieste nemala existovať. V skutočnosti ma dosť šokovalo, keď som zistil, aké ľahké je stiahnuť a používať. Silne cítim, že by sa to malo čo najskôr odstrániť, skôr ako sa to ľuďom dostane do rúk a začnú ich zneužívať napríklad na pracovisku alebo na verejných priestranstvách. Rovnako ako, premýšľať o tom, čo sa stane, keď / keď sa dostane do nesprávnych rúk. Nechcem ani len pomyslieť na to, čo sa stane, keď to začnú perverzní a pedofili používať.
Stručne povedané, softvér dokáže zmeniť fotografiu dokonale oblečenej osoby na realisticky vyzerajúci nahý obraz tej istej osoby. Verím, že viete, čo to robí, takže to nejdem nahlas vyhláskovať. Softvér dokáže nasledujúce.
Softvér teda funguje iba na obrázkoch žien. Áno, ľudia, ktorí to vytvorili, boli veľmi konkrétni v tom, čo chcú robiť, a funguje to prekvapivo dobre. Podľa Základná doska , zdá sa, že najlepšie funguje na obrázkoch, kde daná osoba už vykazuje veľa kože, napríklad napríklad plavky.
Ľudia, ktorí to vytvorili, si doslova vytvorili web, ktorý umožňuje bezplatný softvér na stiahnutie. K dispozícii je tiež platená verzia softvéru, ktorá vám poskytne ďalšie funkcie. Nemal som v úmysle stiahnuť si aplikáciu, aby som si ju vyskúšal, a tak som urobil nejaký prieskum.
Podľa ľudí, ktorí ho testovali, softvér funguje na počítačoch so systémom Windows aj Linux a na jeho použitie nie je potrebné absolútne žiadne odborné znalosti. Hovoria, že je také ľahké orezať obrázok v základnom editore fotografií. Nebudem sa ani obťažovať pridávaním ďalších obrázkov a propagáciou aplikácie, ale z výsledkov, ktoré som videl, sa zdá, že funguje veľmi presne.
mapa vodných zdrojov appalachian trail
Tu je to, čo povedal anonymný tvorca aplikácie, keď sa ho pýtali, prečo vytvoril taký strašidelný softvér -
Asi pred dvoma rokmi som objavil potenciál AI a začal som študovať základné veci. Keď som zistil, že siete GAN dokážu transformovať dennú fotografiu na nočnú, uvedomil som si, že by bolo možné transformovať oblečenú fotografiu na nahú. Heuréka. Uvedomil som si, že röntgenové okuliare sú možné! Na základe zábavy a nadšenia pre tento objav som urobil prvé testy a získal zaujímavé výsledky.
Úprimne, nezáleží na tom, prečo ho vytvoril. Nás, ľudí, by malo viac znepokojovať, že softvér ako je tento, existuje na tomto svete a ktokoľvek, doslova každý, si ho môže stiahnuť a vytvoriť falošné nahé obrázky, ktoré, bohužiaľ, vyzerajú veľmi reálne.
Samotná myšlienka vytvárania hlbokých falzifikátov bola strašidelná, ale toto iba posúva veci na inú úroveň. Dôvod, prečo je ešte väčšie znepokojenie, spočíva v tom, že takáto aplikácia je ľahko prístupná a ľahšie použiteľná ako deepfake. To, že je to také ľahké ako inštalácia a hranie ako vo videohre, ma desí.
Naozaj dúfam, že uvidím, ako sa systémy zlepšujú v detekcii falzifikátov. Môžem si len predstaviť, ako to možno zneužiť, ak sa to dostane do zlých rúk. Je hrôzostrašné tvrdiť, že falzifikáty a podobné aplikácie sotva poškriabu povrch AI. Vyzerá to, že budeme odsúdení, ak nebude zavedená náležitá regulácia používania AI.
Zdroj: zlozvyk
Čo si o tom myslíš?
Začnite konverzáciu, nie oheň. Príspevok s láskavosťou.
Uverejniť komentár
