1. Fogalom magyarul: adatmérgezés

2. Fogalom angolul: data poisoning

3. Meghatározás:

Az adatmérgezés a kibertámadások olyan típusa, amelyben a támadó szándékosan veszélyezteti a mesterséges intelligencia vagy gépi tanulási modell által használt tanuló adatállományt (pl. megváltoztatja az osztálycímkét, vagy új, félrevezető adatot inzertál a tanulóhalmazba, stb.), hogy befolyásolja vagy manipulálja a modell működését.

Az adatmérgezés elleni védelem többszintű megközelítést igényel. Az olyan modellek esetében, amelyek nem használnak hatalmas mennyiségű adatot - például olyanok, amelyek szűk vállalati felhasználási eseteknek felelnek meg - könnyebb biztosítani a tanuló állomány integritását, és garantálni, hogy az csak megbízható forrásból származzon. A hatalmas mennyiségű és nyilvános forrásokból származó tanulóállományokból épült modellek védelme nehezebb, de adattisztítással, előzetes feldolgozással, szándékos hibák felfedezésére irányuló intelligens védelmi algoritmusokkal enyhíthető a kockázat. 

4. Hivatkozások:

EU-U.S. Terminology and Taxonomy for Artificial Intelligence

https://digital-strategy.ec.europa.eu/en/library/eu-us-terminology-and-taxonomy-artificial-intelligence

5. Megjegyzések:

6. Kulcsszavak: kibertámadás, gépi tanulás, mesterséges intelligencia