Elküldeni vagy sem: A fogyatékos dilemma

Ha csak a jó köröket teszed közzé, és eldobod a veszélyeseket, akkor az egyetlen személy, aki becstelen, az te magad vagy. Miután kijelentettem, elismerem, hogy sok ember egyszerűen nem teszi közzé az összes pontszámát. Általában azt látom, hogy az egyének azon vitatkoznak, hogy közzéteszik-e vagy nem teszik közzé golfhátrányuk eredményét. Arra bátorítjuk a gépi tanulmányozással foglalkozó kutatókat, hogy vegyenek részt és dolgozzanak ki stratégiákat az ellentmondásos példák megelőzésére, hogy ezzel megszűnjön ez a szakadék a tervezők szándékai és az algoritmusok viselkedése között. A kontradiktórius példák azt mutatják, hogy sok divatos gépi tanulmányozási algoritmus sokkoló módon tönkretehető. Az erős, alkalmazkodó támadókkal szemben védekezni képes védelem tervezése fontos elemzési terület.

Félig felügyelt képbesorolás kontrasztív előképzéssel SimCLR-el Képbesorolás EANet-tel (External Attention Transformer) Az önkormányzat által Vavada fenntartott parkolók lakosok számára vannak fenntartva, senki más nem parkolhat, függetlenül attól, hogy az adott személy rendelkezik-e rokkanttáblával vagy rendszámtáblával vagy sem.

A támadó elkészítheti a saját próbababáját, egy sima modellt, amely gradienssel rendelkezik, ellenfél példákat készíthet a próbababának, majd ezeket az ellenséges példákat bevetheti a mi nem sima modellünkkel szemben. Még extra sajnos úgy tűnik, hogy a támadónak nagyon jó stratégiája van arra, hogy kitalálja a védelemben lévő lyukak helyét. Nem tettük erősebbé a modellt; most egyszerűen kevesebb nyomot adtunk a támadónak, hogy rájöjjön, hol vannak a lyukak a divatos védelemben. Ha a támadó ki tudja találni, hogy mely pontok ellentmondásos példák, ezek a pontok továbbra is hibásan kerülnek besorolásra. De mi van akkor, ha nincs színátmenet – mi van akkor, ha a kép végtelenül csekély módosítása nem okoz változást a manöken teljesítményében? A sikertelen védelmi módszerek egész osztályának leírása, amelyek úgy működnek, hogy megpróbálják megtagadni a támadó hozzáférését egy hasznos gradienshez.

Használja a formátumkifejezést a nemzetcímkék megjelenítéséhez angolul és anyanyelven belül is. Húzza el a jelölőt a mutatóval vagy a billentyűzettel, és tegye elérhetővé az egyéni marker-tényezős billentyűzetet. Egy testreszabott réteggel terítsen rácsot a terepre, és helyezze el a terepen lévő tényezőket egymással. Kattintson a térkép pontjaira, hogy olyan nyomokat hozzon létre, amelyek távolságot mérnek a turf.size segítségével.

A gépi tanulmányozási modellek extra erőssé tételére szolgáló hagyományos technikák, hasonlóan a súlycsökkenéshez és a lemorzsolódáshoz, általában nem nyújtanak gyakorlati védelmet az egymással szembenálló példákkal szemben. A kontradiktórius példák azt mutatják, hogy még az egyszerű trendi algoritmusok is, minden egyes felügyelt és megerősített tanulásnál, már olyan lenyűgöző módon viselkedhetnek, amilyenre nem is gondolnánk. Ha kísérletezni szeretne személyes modelljei megbontásával, használja a cleverhans-t (vadiúj ablakban nyílik meg), egy Ian Goodfellow (új ablakban nyílik meg) és Nicolas Papernot (új ablakban nyílik meg) által közösen kifejlesztett nyílt forráskönyvtárat, hogy tesztelje a mesterséges intelligencia sebezhetőségét az ellenséges példákkal szemben. A kutatás feltárja, hogy a széles körben használt RL-algoritmusok, hasonlóan a DQN-hez (új ablakban nyílik meg), a TRPO-hoz (új ablakban nyílik meg) és az A3C-hez (új ablakban nyílik meg), gyengék az ellenséges bemenetekkel szemben. A stratégia egyfajta robusztus; A legújabb kutatások (vadonatúj ablakban nyílik meg) bebizonyították, hogy az ellentmondásos példákat kinyomtathatják normál papírra, majd lefényképezhetik egy normál okostelefonnal, és megbolondítják a rendszereket. A kontradiktórius példák olyan bemenetek a modellek gépi tanulmányozására, amelyeket a támadó szándékosan úgy alakított ki, hogy a modellt hibára késztesse; olyanok, mint a gépek optikai csalódásai.