dr inż. Michał Malinowski

bazy grafowe, sztuczna inteligencja, cyberbezpieczeństwo

AI pod ostrzałem: jak hakerzy polują na inteligentne systemy


 Konferencja: THE H@CK SUMMIT

Miejsce: 14 października 2025r., PGE Narodowy, Warszawa

Zorganizowana przez: ACADEMIC PARTNERS, DKWOC  
[Picture]
AI pod ostrzałem: jak hakerzy polują na inteligentne systemy
Opis:
Prezentacja omawia kluczowe wektory ataków cybernetycznych na systemy sztucznej inteligencji – od manipulacji danymi wejściowymi (m.in. ataki adwersarialne, wstrzyknięcia poleceń, ataki enkodera) i treningowymi (wycieki danych, zatruwanie, inferencja członkostwa, model skewing), przez ataki na wyniki działania (ujawnianie poufnych informacji, inwersja modelu, ataki na integralność), aż po ataki na sam model i algorytm (jailbreaking, backdoor, trojan, kradzież, DoS, ataki bocznokanałowe, niebezpieczna konstrukcja API). Ilustruje to seria eksperymentów i demonstracji (np. eksperyment fake news, narzędzie Nightshade, demo ataku bocznokanałowego), a na zakończenie prezentuje wybrane inicjatywy i standardy bezpieczeństwa, takie jak OWASP Top 10, macierz MITRE ATLAS, NIST AI RMF, baza incydentów AI, ISO/IEC TR 24028, Deklaracja z Bletchley oraz Global AI Index.