California AG wysyła do xAI zaprzestanie działalności w związku z jawnymi deepfakemi Groka
Prokurator generalny Kalifornii Rob Bonta wysłał list o zaprzestaniu działalności do xAI kilka dni po tym, jak jego biuro wszczęło oficjalne dochodzenie w sprawie firmy w związku z doniesieniami, że Grok generował treści bez zgody. Jeśli pamiętacie, xAI i Grok byli ostro krytykowani za robienie zdjęć prawdziwym osobom i umieszczanie ich w odkrywczych ubraniach, takich jak bikini, na prośby przypadkowych użytkowników. Biuro Bonty żąda, aby xAI natychmiast zaprzestało tworzenia „cyfrowych materiałów o charakterze jednoznacznie seksualnym”, gdy przedstawiona osoba nie wyraziła na to zgody lub jeśli dana osoba jest nieletnia. Zażądała również, aby xAI zaprzestało „ułatwiania lub pomagania w tworzeniu… lub publikacji cyfrowych materiałów o charakterze jednoznacznie seksualnym” wyrażających zgodę osób fizycznych i osób poniżej 18 roku życia. X zmienił swoje zasady po wybuchu problemu i uniemożliwił kontu Grok możliwość edytowania zdjęć prawdziwych ludzi w odkrywcze ubrania. xAI przeniosło także funkcje Groka do generowania obrazów za paywall i zablokowało geograficznie możliwość edytowania zdjęć prawdziwych ludzi w bikini przez płacących użytkowników, ale tylko w regionach, w których jest to nielegalne. W swoim oświadczeniu Bonta powiedział, że xAI opracowało dla Groka „tryb ostry” do generowania treści dla dorosłych i wykorzystywał go jako punkt marketingowy. California AG stwierdziła również, że generowane przez Groka obrazy o charakterze seksualnym są wykorzystywane do nękania zarówno osób publicznych, jak i zwykłych użytkowników. „Co najbardziej niepokojące, doniesienia prasowe opisały użycie Groka do zmiany wizerunków dzieci w celu przedstawienia ich w skromnym ubraniu i w sytuacjach seksualnych” – czytamy w oświadczeniu Bonty. „Powyższe działania naruszają prawo stanu Kalifornia, w tym art. 1708.86 kalifornijskiego kodeksu cywilnego, art. 311 i nast. kalifornijskiego kodeksu karnego oraz art. 647(j)(4) oraz art. 17200 kalifornijskiego kodeksu biznesu i zawodów” – stwierdzono. Departament Sprawiedliwości stanu oczekuje obecnie, że w ciągu najbliższych pięciu dni otrzyma od xAI informacje na temat kroków podjętych w celu rozwiązania tych problemów.
已Opublikowany: 2026-01-17 14:00:00
źródło: www.engadget.com
