Tisztelettel meghívunk minden szakembert és érdeklődőt a HTE Mesterséges Intelligencia Szakosztály alábbi szakestjére:

A gépi tanulás és mélytanulás
biztonsági és adatvédelmi problémái

Előadók:

• Ács Gergely (egyetemi docens, BME)
• Horváth András (egyetemi docens, PPKE)

A gépi tanulást és azon belül a mély neurális hálózatokat számtalan alkalmazásban sikerrel alkalmazták már, de a biztonság szempontjából – kritikus felhasználási esetekben  – az ellenséges támadások jelentős veszélyt jelentenek. A gépi tanulás biztonsági és biztonságkritikus alkalmazásai az évek során folyamatosan nőttek (önvezető autók, felhasználói hitelesítés, döntéstámogatás, profilalkotás, rosszindulatú programok észlelése stb.).

Ács Gergely az előadásában azt mutatja meg, hogy a gépi tanulásnak még mindig sok nyitott (és megoldatlan) adatvédelmi és biztonsági problémája van, amelyek hátráltatják a mélytanulás széles körű alkalmazását ezeken a területeken. Előadásában a következő, kihívást jelentő problémákról ad áttekintést:  támadások a tesztelési (evasion) és tanítási (poisoning, backdoor) fázisban, elmagyarázhatóság (explainability) elleni támadások, tanító adat visszaállítása (membership and recconstruction attacks), és elérhetőségi (availability) támadások.

A téma bemutatását a következő előadó, Horváth András a képszegmentáció elleni támadásokkal folytatja, amely az önvezető járművek kamerájának képfeldolgozásánál kritikus fontosságú. Az előadó egyszerű esettanulmányokon keresztül mutatja be, hogy a patch alapú támadások felhasználhatók a szegmentáló hálózatok kimenetének megváltoztatására.

Néhány példán és a hálózat bonyolultságának vizsgálatán keresztül a hallgatóság azt is láthatja, hogy az adott méretű patch-alapú támadásokkal előállítható lehetséges kimeneti térképek száma jellemzően kisebb, mint az általuk kifejtett terület vagy a támadandó terület.

Az előadásokat kötetlen vita, klubszerű beszélgetés követi.

A rendezvény díjtalan.

Minden érdeklődőt sok szeretettel várunk!

Üdvözlettel:
Szűcs Gábor, egyetemi docens, BME, TMIT
HTE Mesterséges Intelligencia szakosztály elnöke