Svake godine konferencija Def Con okuplja stručnjake za računalnu sigurnost, novinare, odvjetnike, dužnosnike savezne vlade SAD-a, istraživače i čarobnjake za kodiranje. Cilj: hardver, softver ili bilo što drugo što se može “hakirati”. Ovogodišnje izdanje bit će usredotočeno na algoritme umjetne inteligencije.
Zakazano za 10. i 13. 8. u Las Vegasu, izdanje Def Con konferencije 2023. ugostit će veliki događaj u potpunosti posvećen napadu na velike jezične modele (LLM) koje koriste generativni AI algoritmi. Popularna hakerska konvencija ugostit će inicijativu AI Village (AIV).
Organizatori Def Cona očekuju tisuće sigurnosnih stručnjaka, studenata i white hat hakera zainteresiranih za testiranje LLM usluga s AI modelima koje pružaju Anthropic, Google, Hugging Face, Nvidia, OpenAI i Stability. Microsoft će također podržati AI Village, dok će testeri i čarobnjaci koda koristiti platformu za evaluaciju koju je razvio Scale AI.
Sudionici će koristiti prijenosna računala koja će osigurati Def Con, koji će također upravljati vremenski ograničenim (i vjerojatno neograničenim) pristupom višestrukim LLM-ovima. Sustav bodovanja u stilu zastavice promovirat će testiranje za širok raspon problema, pri čemu se od red hat timova očekuje da se pridržavaju “hakerske Hipokratove zakletve” – što god to zapravo značilo. Pojedinac koji dobije najveći broj bodova osvojit će “high end” (iako neodređen) Nvidia GPU.
LLM donosi neviđenu eksploziju kreativnosti, navodi se na službenom blogu AI Villagea , pomažući ljudima da brže iznesu svoje ideje, smanjujući prepreke ulasku u kreativna polja i dopuštajući “nove vrste kreativnog sadržaja”. Međutim, s velikim ovlastima dolaze još veći sigurnosni problemi, koje tek počinjemo shvaćati jer se LLM tehnologije automatiziraju u velikom broju.
Sven Cattell, osnivač AI Village-a, izjavio je da tradicionalni način rješavanja ovih problema računa na specijalizirane red hat timove, koji uglavnom rade u privatnim organizacijama.
Def Con će pružiti način za pronalaženje više problema unutar LLM usluga, rekao je Cattell, budući da nagrade za bugove, događaji hakiranja uživo i drugi “angažmani zajednice u sigurnosti” mogu prilagoditi za testiranje protiv sustava temeljenih na modelu strojnog učenja. Događaj AI Village u osmom mjesecu bit će “zajednički napor”, okupljajući hakere, partnere iz društvenih grupa, neprofitnih grupa, pa čak i pristaše (američke) vlade.
