{"id":36260,"date":"2026-04-06T08:43:00","date_gmt":"2026-04-06T08:43:00","guid":{"rendered":"https:\/\/www.egroup.hu\/megbizhato-mesterseges-intelligencia-az-e-group-az-ieee-satml-konferencian\/"},"modified":"2026-04-24T10:25:24","modified_gmt":"2026-04-24T10:25:24","slug":"megbizhato-mesterseges-intelligencia-az-e-group-az-ieee-satml-konferencian","status":"publish","type":"post","link":"https:\/\/www.egroup.hu\/hu\/megbizhato-mesterseges-intelligencia-az-e-group-az-ieee-satml-konferencian\/","title":{"rendered":"Megb\u00edzhat\u00f3 mesters\u00e9ges intelligencia: Az E-Group az IEEE SaTML konferenci\u00e1n"},"content":{"rendered":"\n

Az E-Group munkat\u00e1rsa, a vil\u00e1g egyik legjelent\u0151sebb, kifejezetten a g\u00e9pi tanul\u00e1si rendszerek biztons\u00e1g\u00e1val foglalkoz\u00f3 konferenci\u00e1j\u00e1n mutatta be tudom\u00e1nyos publik\u00e1ci\u00f3j\u00e1t nemzetk\u00f6zi k\u00f6z\u00f6ns\u00e9g el\u0151tt. Ez a pillanat m\u00e9rf\u00f6ldk\u0151 a v\u00e1llalat \u00e9let\u00e9ben.<\/p>\n\n\n\n

F\u00f3kuszban az MI legnehezebb probl\u00e9m\u00e1i<\/h4>\n\n\n\n

Minden \u00e9vben a tudom\u00e1nyos \u00e9let \u00e9s az ipar legkiv\u00e1l\u00f3bb kutat\u00f3i gy\u0171lnek \u00f6ssze az IEEE Symposium on Security and Trustworthy Machine Learning (r\u00f6viden SaTML) konferenci\u00e1n, hogy korunk egyik legnagyobb technol\u00f3giai kih\u00edv\u00e1s\u00e1val n\u00e9zzenek szembe. Ahogy a g\u00e9pi tanul\u00e1si modellek egyre fejlettebb\u00e9 \u00e9s elterjedtebb\u00e9 v\u00e1lnak, egyre \u00e9get\u0151bb a k\u00e9rd\u00e9s: hogyan garant\u00e1lhatjuk, hogy ezek a rendszerek biztons\u00e1gosak, transzparensek \u00e9s a t\u00e1mad\u00e1sokkal szemben ellen\u00e1ll\u00f3ak maradjanak?\r\nId\u00e9n a M\u00fcncheni M\u0171szaki Egyetem adott otthont a rendezv\u00e9nynek. A SaTML k\u00fcl\u00f6nlegess\u00e9ge, hogy a g\u00e9pi tanul\u00e1s biztons\u00e1g\u00e1nak offenz\u00edv \u00e9s defenz\u00edv oldal\u00e1t is vizsg\u00e1lja. A h\u00e1romnapos, t\u00f6bb mint 60 el\u0151ad\u00f3t felvonultat\u00f3 esem\u00e9nyre olyan vezet\u0151 int\u00e9zm\u00e9nyekb\u0151l \u00e9rkeztek szakemberek, mint az MIT, vagy \u00e9pp olyan tech \u00f3ri\u00e1sokt\u00f3l, mint a Microsoft, \u00edgy a vil\u00e1g \u00e9lvonalbeli akad\u00e9miai \u00e9s v\u00e1llalati tud\u00e1sa egy helyen \u00f6sszpontosult. A konferenci\u00e1ra rendk\u00edv\u00fcl szigor\u00fa, szak\u00e9rt\u0151i b\u00edr\u00e1laton alapul\u00f3 kiv\u00e1laszt\u00e1si folyamaton kereszt\u00fcl vezet az \u00fat, \u00edgy m\u00e1r maga a r\u00e9szv\u00e9tel is komoly tudom\u00e1nyos elismer\u00e9st jelent.\r\n<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

A kutat\u00e1s: Amikor a hozz\u00e1j\u00e1rul\u00e1si metrik\u00e1kban sem b\u00edzhatunk<\/h4>\n\n\n\n

A SaTML-en bemutatott tanulm\u00e1ny a feder\u00e1lt tanul\u00e1s egy finom, de komoly k\u00f6vetkezm\u00e9nyekkel j\u00e1r\u00f3 sebezhet\u0151s\u00e9g\u00e9t vizsg\u00e1lja: a hozz\u00e1j\u00e1rul\u00e1sok \u00e9rt\u00e9kel\u00e9s\u00e9nek probl\u00e9m\u00e1j\u00e1t. A kutat\u00e1s t\u00f6bbek k\u00f6z\u00f6tt Frank Marcell (E-Group) \u00e9s Dr. Pej\u00f3 Bal\u00e1zs (CrySyS Lab) egy\u00fcttm\u0171k\u00f6d\u00e9s\u00e9nek eredm\u00e9nye.\r\nA feder\u00e1lt tanul\u00e1s egy egyre n\u00e9pszer\u0171bb, mert lehet\u0151v\u00e9 teszi, hogy t\u00f6bb f\u00e9l k\u00f6z\u00f6s g\u00e9pi modellt tan\u00edtson an\u00e9lk\u00fcl, hogy a nyers, szenzit\u00edv adataikat meg kellene osztaniuk egym\u00e1ssal. A rendszer igazs\u00e1goss\u00e1g\u00e1nak \u00e9s a r\u00e9sztvev\u0151k motiv\u00e1l\u00e1s\u00e1nak alapj\u00e1t a hozz\u00e1j\u00e1rul\u00e1si metrik\u00e1k adj\u00e1k az alapj\u00e1n, hogy egy-egy r\u00e9sztvev\u0151 mennyit jav\u00edtott a k\u00f6z\u00f6s modellen. De mi t\u00f6rt\u00e9nik, ha maguk a pontsz\u00e1mok is manipul\u00e1lhat\u00f3k?<\/p>\n\n\n\n

\u201eKutat\u00e1sunk egy\u00e9rtelm\u0171en bizony\u00edtja, hogy mind az aggreg\u00e1ci\u00f3s m\u00f3dszer megv\u00e1laszt\u00e1sa, mind pedig a t\u00e1mad\u00f3k jelenl\u00e9te jelent\u0151sen torz\u00edthatja a hozz\u00e1j\u00e1rul\u00e1si pontsz\u00e1mokat. Ez r\u00e1vil\u00e1g\u00edt arra, hogy a j\u00f6v\u0151ben sokkal robusztusabb \u00e9rt\u00e9kel\u00e9si s\u00e9m\u00e1kra lesz sz\u00fcks\u00e9g.\u201d<\/em><\/p>\n\n\n\n

A tanulm\u00e1ny k\u00e9t f\u0151 t\u00e1mad\u00e1si fel\u00fcletet azonos\u00edt. Az els\u0151 az architektur\u00e1lis \u00e9rz\u00e9kenys\u00e9g: a kutat\u00e1s bemutatja, hogy a k\u00fcl\u00f6nb\u00f6z\u0151 modell-aggreg\u00e1ci\u00f3s m\u00f3dszerek akaratlanul is jelent\u0151sen torz\u00edthatj\u00e1k a hozz\u00e1j\u00e1rul\u00e1si \u00e9rt\u00e9keket, m\u00e9g akkor is, ha nincs a h\u00e1tt\u00e9rben rosszindulat\u00fa sz\u00e1nd\u00e9k. A m\u00e1sodik – \u00e9s egyben riaszt\u00f3bb – probl\u00e9ma a sz\u00e1nd\u00e9kos manipul\u00e1ci\u00f3: a m\u00e9rgez\u00e9ses t\u00e1mad\u00e1sok r\u00e9v\u00e9n a rosszindulat\u00fa r\u00e9sztvev\u0151k strat\u00e9giailag \u00fagy alak\u00edthatj\u00e1k a modellfriss\u00edt\u00e9seiket, hogy mesters\u00e9gesen felnagy\u00edts\u00e1k a saj\u00e1t pontsz\u00e1maikat, vagy \u00e9pp cs\u00f6kkents\u00e9k a t\u00f6bbiek\u00e9t.<\/p>\n\n\n\n

Ezeket az eredm\u00e9nyeket kiterjedt k\u00eds\u00e9rletekkel, k\u00fcl\u00f6nb\u00f6z\u0151 adathalmazokon \u00e9s modellarchitekt\u00far\u00e1kon valid\u00e1lt\u00e1k, bizony\u00edtva, hogy a jelens\u00e9g a val\u00f3s k\u00f6r\u00fclm\u00e9nyek sz\u00e9les sk\u00e1l\u00e1j\u00e1n relev\u00e1ns<\/p>\n\n\n\n

A legfontosabb meg\u00e1llap\u00edt\u00e1sok r\u00f6viden:<\/h4>\n\n\n\n