Od 2 sierpnia 2026 r., zgodnie z art. 50 AI Act, obowiązują wymogi dotyczące przejrzystości dla określonych systemów sztucznej inteligencji. Dostawcy systemów AI, które bezpośrednio wchodzą w interakcję z ludźmi, muszą co do zasady projektować je w taki sposób, aby użytkownik był świadomy, że komunikuje się z systemem AI.
W przypadku treści wygenerowanych lub zmanipulowanych przez sztuczną inteligencję przewidziano ponadto oznaczenia umożliwiające ich odczyt maszynowy. Stosowanie takich technologii jak deepfake, kategoryzacja biometryczna czy rozpoznawanie emocji może wiązać się z dodatkowymi obowiązkami informacyjnymi dla podmiotów korzystających z takich systemów.
Również opracowane przez Meta okulary AI i kamery mogą rejestrować nie tylko osobę korzystającą z urządzenia, lecz także osoby znajdujące się w jej otoczeniu. W celu zapewnienia większej transparentności urządzenia mają wykorzystywać widoczne lampki i sygnały świetlne informujące otoczenie o trwającym nagrywaniu. Takie sygnały mogą jednak zostać zakłócone lub zmanipulowane przez użytkowników.
Pokazuje to istotne ryzyko z punktu widzenia compliance: techniczne mechanizmy bezpieczeństwa i przejrzystości powinny być odporne również na próby ich obejścia lub niewłaściwego wykorzystania.
Kolejnym istotnym aspektem jest sposób postępowania z gromadzonymi danymi. Meta zapowiada pełne szyfrowanie w przypadku określonych interakcji z okularami. Urządzenia nie mają natomiast służyć do ogólnej identyfikacji osób trzecich za pomocą rozpoznawania twarzy. W przypadku urządzeń wyposażonych w kamery, mikrofony lub funkcje biometryczne wymagania AI Act oraz przepisy dotyczące ochrony danych powinny być zatem zawsze analizowane łącznie.
Compliance nie kończy się na ochronie danych
Muse Charm i okulary AI są jednocześnie fizycznymi urządzeniami elektrycznymi. Oznacza to, że oprócz wymogów dotyczących sztucznej inteligencji i ochrony danych muszą spełniać również odpowiednie obowiązki rejestracyjne oraz obowiązki producenta.
W przypadku opakowań sprzedażowych lub wysyłkowych mogą dodatkowo pojawić się obowiązki w zakresie rejestracji, uczestnictwa w systemie rozszerzonej odpowiedzialności producenta oraz raportowania ilości wprowadzanych opakowań.
Ochrona danych a urządzenia AI: potrzebne są szczególne środki
Przykład nowego produktu Meta, „Muse Charm”, który ma pełnić rolę cyfrowego asystenta AI, reagującego na swoje otoczenie i wchodzącego z nim w interakcję, pokazuje, że transparentność powinna być uwzględniana już na etapie projektowania produktu, a nie dopiero podczas jego późniejszego wprowadzania na rynek.
Rosnąca liczba regulacji pokazuje również, że compliance nowoczesnego produktu nie ogranicza się już do jednego obszaru. AI Act, ochrona danych, obowiązki produktowe, WEEE oraz EPR dla opakowań mogą dotyczyć jednego produktu jednocześnie.
Aby nie stracić orientacji wśród wszystkich tych wymagań i prawidłowo określić obowiązki dotyczące konkretnego produktu, warto skorzystać z profesjonalnego wsparcia.
