FOI-forskare ser viss risk med AI.
FOI-forskare ifrågasätter den allvarliga hotbild som byggts upp kring AI-modellen Mythos, trots att experter och myndigheter varnar för den. Forskarna…
Sammanfattning
- Tunga experter, IVA och Säpo varnar för hotet från AI-drivna cyberangrepp.
- FOI-forskarna Viktor Bergström och John Ziegenbein har i en rapport undersökt Mythos förmågor.
- Få personer, inklusive FOI-forskarna, har haft tillgång till AI-modellen Mythos.
- Anthropics vd Dario Amodei ville inte lansera Mythos brett då han ansåg den vara "för kraftfull".
- Säpo varnar för att AI-modeller innebär nya utmaningar för säkerhetsarbetet och att tidsfönstret för exploatering av sårbarheter krymper.
Innehåll
FOI-forskare ifrågasätter den allvarliga hotbild som byggts upp kring AI-modellen Mythos, trots att experter och myndigheter varnar för den. Forskarna Viktor Bergström och John Ziegenbein har i en rapport från FOI analyserat modellen, som få har haft tillgång till och som Trumpadministrationen tillfälligt stängde åtkomsten till. KTH-professorn Pontus Johnson har tidigare larmat om ett akut cyberhot från AI, och Säpo har varnat för nya utmaningar. Forskarna betonar att de uttalar sig som individer, inte för FOI, och menar att det är oklart om AI främst gynnar försvarare eller angripare.