Agenci AI „niebezpieczni” dla bezpiecznych aplikacji, takich jak Signal, mówi Whittaker
Prezes Fundacji Signal, Meredith Whittaker, ostrzegła, że agenci sztucznej inteligencji, którzy samodzielnie wykonują zadania, stanowią zagrożenie dla aplikacji do szyfrowania wiadomości (źródło inne niż płatne), ponieważ wymagają szerokiego dostępu do danych przechowywanych na urządzeniu i mogą zostać przejęte, jeśli otrzymają uprawnienia roota. Przemawiając we wtorek w Davos, Whittaker stwierdziła, że głębsza integracja agentów AI z urządzeniami jest „dość niebezpieczna” w przypadku usług takich jak Signal. Aby agent sztucznej inteligencji mógł skutecznie działać w imieniu użytkownika, potrzebowałby jednostronnego dostępu do aplikacji przechowujących poufne informacje, takie jak dane i kontakty kart kredytowych, powiedział Whittaker. Dane przechowywane przez agenta w oknie kontekstowym są narażone na większe ryzyko naruszenia bezpieczeństwa. Whittaker nazwał to „przełamaniem bariery krew-mózg między aplikacją a systemem operacyjnym”. „Nasze szyfrowanie nie ma już znaczenia, jeśli wystarczy przejąć to okno kontekstowe” – powiedziała.
已Opublikowany: 2026-01-20 19:22:00
źródło: it.slashdot.org
