AI pisała piosenki, boty ich słuchały. Amerykanin wyłudził ponad 8 mln dolarów i trafił do więzienia

Ponad 8 mln dolarów uzyskanych w wyniku oszustwa i 18 miesięcy więzienia. To jedna z pierwszych spraw, która tak wyraźnie pokazuje, jak AI może zostać wykorzystana nie tylko do tworzenia muzyki, ale również do przemysłowego manipulowania całym rynkiem streamingu.

Muzyka była prawdziwa. Słuchacze już nie

Historia na pierwszy rzut oka brzmi niemal absurdalnie. Michael Smith dysponował ogromnym katalogiem utworów, które trafiały na Amazon Music, Apple Music, Spotify i YouTube Music.

Problem polegał na tym, że muzyki w znacznej mierze nie tworzyli tradycyjni artyści, a jej popularność także była sztuczna.

Według amerykańskiej prokuratury Smith wykorzystywał AI do tworzenia setek tysięcy utworów, a następnie uruchamiał tysiące zautomatyzowanych kont, które nieustannie ich słuchały. W ten sposób generował miliardy fałszywych odtworzeń i pobierał tantiemy należne za streaming. Proceder trwał od 2017 do 2024 roku.

To właśnie ten drugi element jest kluczowy. Samo opublikowanie muzyki wygenerowanej przy pomocy AI nie było istotą przestępstwa. Problemem było udawanie, że utworów słuchają prawdziwi ludzie, podczas gdy odsłuchy wykonywały automatyczne programy.

Nawet 10 tysięcy botów jednocześnie

Skala przedsięwzięcia była imponująca.

Smith tworzył tysiące fałszywych kont na platformach streamingowych. Według informacji Departamentu Sprawiedliwości w pewnych okresach jednocześnie działało nawet 10 tys. kont botów.

Do ich zakładania wykorzystywane były fikcyjne adresy e-mail oraz karty debetowe pozyskane w sposób niezgodny z prawem. Następnie specjalne oprogramowanie powodowało, że konta bez przerwy odtwarzały muzykę należącą do Smitha.

Nie chodziło przy tym o nabijanie miliardów odsłuchów kilku piosenkom. To byłoby zbyt łatwe do wykrycia.

Smith rozrzucał ruch na ogromną liczbę utworów, dzięki czemu statystyki poszczególnych nagrań miały wyglądać bardziej wiarygodnie.

Potrzebował „mnóstwa piosenek i to szybko”

I właśnie tutaj sztuczna inteligencja okazała się idealnym narzędziem.

Aby system działał, Smith potrzebował gigantycznego katalogu muzyki. Im więcej utworów znajdowało się na platformach, tym łatwiej można było rozproszyć fałszywe odsłuchy i zmniejszyć ryzyko wykrycia.

W jednej z wiadomości cytowanych przez amerykańską prokuraturę miał przyznać, że potrzebuje bardzo dużej liczby piosenek w krótkim czasie, aby obejść systemy przeciwdziałające oszustwom.

AI rozwiązywała ten problem znakomicie.

Nie trzeba było zatrudniać setek kompozytorów, wokalistów i producentów. Technologia pozwalała tworzyć muzykę na skalę, która wcześniej byłaby trudna do osiągnięcia.

Według aktu oskarżenia jakość generowanych materiałów z czasem dodatkowo się poprawiała. Już w 2020 roku jeden ze współpracowników Smitha informował, że technologia umożliwia coraz lepsze generowanie utworów, w tym również wokali.

Boty „słuchały” muzyki miliardy razy

W efekcie powstał niemal zamknięty ekosystem.

AI produkowała muzykę.

Automatyczne konta jej słuchały.

Platformy rejestrowały odsłuchy.

System naliczał tantiemy.

A pieniądze trafiały do osób kontrolujących katalog.

Prokuratura ustaliła, że setki tysięcy utworów zostały w ten sposób odtworzone miliardy razy. Ostatecznie Smith bezprawnie uzyskał ponad 8 mln dolarów tantiem.

W akcie oskarżenia z 2024 roku prokuratura szacowała skalę całego procederu nawet na ponad 10 mln dolarów, jednak po przyznaniu się Smitha do winy i zakończeniu sprawy sąd nakazał przepadek dokładnie 8 091 843,64 dolara.

Taylor Swift została daleko w tyle

Jedno z porównań pokazanych przez prokuraturę szczególnie dobrze obrazuje skalę manipulacji.

W kwietniu 2023 roku cały katalog Taylor Swift zanotował na YouTube Music około 9,3 mln odtworzeń pochodzących z planów rodzinnych.

W tym samym miesiącu konta kontrolowane przez Smitha wygenerowały w ramach takich planów aż 80,9 mln fałszywych odtworzeń jego muzyki stworzonej przy pomocy AI.

Nie oznacza to oczywiście, że jego utwory rzeczywiście były niemal dziewięć razy popularniejsze od muzyki jednej z największych gwiazd świata.

Pokazuje za to, jak bardzo zautomatyzowany system może zniekształcić statystyki, jeśli uda się obejść zabezpieczenia platform.

Dlaczego ktoś na tym tracił?

Można pomyśleć: skoro platforma naliczyła pieniądze Smithowi, to gdzie właściwie jest poszkodowany?

Mechanizm wypłat w streamingu sprawia jednak, że problem dotyczy całego rynku.

Tantiemy przeznaczone dla artystów i właścicieli praw pochodzą z określonych pul środków. Im większy udział w liczbie odtworzeń przypada konkretnym utworom, tym większa część pieniędzy może trafić do związanych z nimi praw.

Jeśli część streamów jest sztucznie wygenerowana, pieniądze mogą zostać przesunięte w kierunku fałszywego ruchu kosztem muzyki rzeczywiście odtwarzanej przez ludzi.

Amerykańska prokuratura właśnie dlatego podkreśliła, że proceder nie uderzał wyłącznie w platformy, ale również w prawdziwych muzyków, autorów i innych właścicieli praw, których utworów rzeczywiście słuchali konsumenci.

Początkowo groziło mu znacznie więcej

Smith został oskarżony w 2024 roku. Zarzuty obejmowały m.in. zmowę w celu popełnienia oszustwa elektronicznego, samo oszustwo oraz zmowę dotyczącą prania pieniędzy. W pierwotnym postępowaniu niektóre z tych przestępstw były zagrożone karą sięgającą nawet 20 lat pozbawienia wolności.

W marcu 2026 roku Smith przyznał się jednak do zmowy w celu popełnienia oszustwa elektronicznego.

Ostatecznie sąd skazał 54-latka na:

• 18 miesięcy więzienia,
• 2 lata nadzoru po odbyciu kary,
• przepadek 8 091 843,64 dolara.

To nie jest wyrok za tworzenie muzyki przez AI

Ten element łatwo zgubić w sensacyjnych nagłówkach.

Smith nie został skazany za używanie sztucznej inteligencji do tworzenia piosenek.

AI była narzędziem umożliwiającym mu błyskawiczne produkowanie gigantycznej liczby nagrań.

Przestępstwem było natomiast stworzenie systemu fałszywych kont, sztuczne generowanie odtworzeń, wprowadzanie platform w błąd i wyłudzanie pieniędzy.

To ważne rozróżnienie również dla obecnej dyskusji o muzyce generowanej komputerowo. Sam fakt, że utwór powstał przy pomocy AI, nie oznacza automatycznie oszustwa. Problem zaczyna się wtedy, gdy technologia służy do manipulowania statystykami albo pobierania pieniędzy za ruch, który w rzeczywistości nie istnieje.

Najciekawszy problem może dopiero nadejść

Sprawa Smitha pokazuje jednak coś znacznie większego niż jeden spektakularny przekręt.

Przez lata jednym z naturalnych ograniczeń rynku muzycznego był koszt produkcji treści. Stworzenie kilkuset tysięcy piosenek wymagałoby niewyobrażalnej ilości czasu i pracy.

Generatywna AI praktycznie usuwa tę barierę.

Jeżeli utwory mogą powstawać masowo, a boty mogą ich masowo słuchać, powstaje paradoksalny rynek, na którym ani twórca, ani odbiorca nie musi być człowiekiem.

I wtedy pojawia się pytanie: co właściwie mierzy licznik odtworzeń?

Popularność?

Zainteresowanie odbiorców?

Czy może jedynie skuteczność algorytmu w produkowaniu kolejnych kliknięć?

Streaming został zaprojektowany dla świata ludzi

Dzisiejszy model muzyczny zakłada, że za odtworzeniem utworu stoi realny odbiorca.

Kiedy milion osób słucha jednej piosenki, jest to informacja o jej popularności.

Ale jeśli milion odtworzeń można wygenerować automatycznie, sama liczba przestaje być wystarczającym dowodem zainteresowania.

Przypadek Smitha pokazuje więc problem, z którym platformy prawdopodobnie będą musiały mierzyć się coraz częściej: jak odróżnić realną konsumpcję treści od aktywności stworzonej wyłącznie po to, aby zarabiać na algorytmie?

Im bardziej generowanie treści i obsługa kont będą automatyczne, tym trudniejsze może być takie rozróżnienie.

Pierwsza taka sprawa w USA może nie być ostatnią

Departament Sprawiedliwości określił sprawę jako pierwsze w USA postępowanie karne dotyczące tego rodzaju oszustwa streamingowego wykorzystującego muzykę generowaną przez AI.

Nie oznacza to jednak, że podobne zjawisko nie występuje gdzie indziej.

Wręcz przeciwnie, wraz z rozwojem generatorów muzyki coraz łatwiejsze staje się stworzenie tysięcy utworów w bardzo krótkim czasie. Równocześnie automatyzacja pozwala generować ogromne ilości ruchu.

To zestawienie tworzy zupełnie nową kategorię ryzyka dla platform takich jak Spotify, Apple Music czy YouTube Music.

AI tworzyła. Boty słuchały. Pieniądze były całkiem prawdziwe

Cała historia mogłaby być zabawną anegdotą o internecie, gdyby nie jedna rzecz.

Za cyfrową pętlą znajdowały się bardzo realne pieniądze.

Setki tysięcy piosenek mogły powstać komputerowo. Miliardy odsłuchów mogły pochodzić od programów. Konta mogły należeć do nieistniejących użytkowników.

Ale ponad 8 mln dolarów tantiem było już jak najbardziej prawdziwe.

I właśnie dlatego ta historia może okazać się jednym z ciekawszych precedensów ery generatywnej sztucznej inteligencji.

Technologia pozwala dziś nie tylko automatycznie tworzyć treści. Pozwala też automatycznie tworzyć ich odbiorców.

A kiedy AI zaczyna produkować kulturę dla botów, które następnie generują pieniądze, pojawia się problem, którego dotychczasowy model internetu nie był projektowany, by rozwiązać.

PMP

^{Fot. Wygenerowano AI}