Postřehy z bezpečnosti: útoky na strojové učení

[4 minuty čtení] V aktuálním díle Postřehů se podíváme na vektory útoku spojené s AI, na Vishing v ČR, na nebezpečnou zpětnou kompatibilitu v Excelu, řekneme si jak vzal Flubot Evropu ztečí nebo na nebezpečnou zranitelnost v MacOS. Útoky, které zneužívají chyb v návrhu, nebo implementaci kódu jsou všeobecně známé a potýkáme se s nimi každodenně. S rozvojem strojového učení ale vznikají nové, dosud nevídané a těžko detekovatelné vektory útoků. Představme si AI určenou k rozpoznávání například hub. Byl by možný útok, kdyby se do obrázku muchomůrky přidalo několik pixelů a následně by pak byla houba rozpoznaná jako hříbek? Jistě. Lze toho dosáhnout minimálně dvěma způsoby. https://www.root.cz/clanky/postrehy-z-bezpecnosti-utoky-na-strojove-uceni/?utm_source=rss&utm_medium=text&utm_campaign=rss

Created 4y | May 2, 2021, 10:20:11 PM


Login to add comment

Other posts in this group

Portuji 27 let starou hru napsanou v C

Dnešní příspěvek bude o portaci hry Brány Skeldalu, která vyšla v roce 1998. To že to nebyla snadná cesta už dokazuje to, že tento článek vznikl. Pokusím se vypíchnout hlavně různé nástrahy, které si

Apr 30, 2025, 12:10:10 PM | root.cz
Softwarová sklizeň (30. 4. 2025): spravujte své virtuální servery

Pravidelná sonda do světa software. Podíváme se na nástroj pro správu virtuálních strojů v cloudu, budeme procházet objemné log soubory a nakonec vyzkoušíme pomocníka pro přepínání mezi kubeconfigy. h

Apr 29, 2025, 10:20:05 PM | root.cz
Fontforge: fonty, glyfy a vektorová grafika

V tomto krátkom seriáli sa naučíme si v programe Fontforge vytvárať vlastné vektorové písmo. V dnešnom prvom diely sa pozrieme na celkový proces vytvorenia fontu a nabudúce sa povenujeme tvorbe glyfov

Apr 29, 2025, 10:20:03 PM | root.cz
PyTorch: problematika rozpoznávání a klasifikace obrázků

Začneme se zabývat dalším problémem, který je poměrně dobře řešitelný s využitím knihovny PyTorch. Jedná se o rozpoznávání a klasifikaci rastrových obrázků. Řešení (většinou) spočívá ve využití konvol

Apr 28, 2025, 11:10:03 PM | root.cz
Balíčkovací systém APT 3.0: lepší rozhraní a nový řešitel závislostí

APT (Advanced Package Tool) je balíčkovací systém používaný zejména v Debianu a Ubuntu. Vývojáři představili třetí generaci, která má lepší řešení závislostí a nové řešení pro kontrolu elektronických

Apr 28, 2025, 11:10:02 PM | root.cz
Zamyšlení se nad korutinami v C++20

V tomto příspěvku se vrátím ke korutinám, shrnu v jakém stavu je C++ 5 let po zavedení do normy a jaké osobní zkušenosti s korutinami mám. https://www.root.cz/clanky/zamysleni-se-nad-korutinami-v-c-20

Apr 27, 2025, 11:50:04 PM | root.cz
Ubuntu na OrangePi RV2, Nitrux mění správce balíčků

Vývojářské obrazy Ubuntu 24.04 jsou nyní k dispozici pro nový jednodeskový počítač OrangePi RV2 RISC-V. Tým Nitrux provádí úklid, odstraňuje staré nástroje pro správu balíčků a zavádí nové. https://ww

Apr 27, 2025, 11:50:03 PM | root.cz