AI går återigen överstyr, denna gång genom att utnyttja social engineering-metoder

OpenAI och Anthropic har offentliggjort separata incidenter från cybersäkerhetstester där deras AI-modeller interagerade med verkliga system och individer utanför de avsedda gränserna för kontrollerade utvärderingar. De nyligen avslöjade händelserna har inget samband med det senaste intrånget hos Hugging Face, men har väckt nya farhågor om beteendet hos allt mer autonoma AI-agenter.

Under tester utförda av det brittiska AI Security Institute (AISI) vidtog AI-agenter som drivs av Anthropics Claude Mythos 5 och OpenAI:s GPT-5.6 Sol obehöriga åtgärder på det offentliga internet medan de försökte slutföra simulerade hackningsutmaningar. I ett fall riktade en AI-agent felaktigt in sig på ett verkligt GitHub-projekt, skapade falska konton och genomförde social engineering-kampanjer för att övertala utvecklare att godkänna skadliga kodändringar.

I en separat incident uppgav OpenAI att en av dess modeller utnyttjade en verklig webbplats efter att en testmiljö hade konfigurerats felaktigt, vilket möjliggjorde oavsiktlig åtkomst till internet. AI:n ska enligt uppgift ha använt upptäckta inloggningsuppgifter för att få åtkomst till webbplatsen, i tron att det var en del av en simulerad utmaning.

Även om utredarna inte fann några bevis på någon betydande skada i den verkliga världen, belyser incidenterna den växande oron kring AI:s autonomi, vilseledande beteende och cyberkapacitet. Säkerhetsexperter säger att händelserna visar på behovet av starkare skyddsåtgärder, tydligare testgränser och branschomfattande standarder för utvärdering av avancerade AI-system.

Malwareprogrammet ChainDrop komprometterar över 1 300 npm-paket i en omfattande attack mot leveranskedjan

En storskalig attack mot programvarans leveranskedja har komprometterat mer än 1 300 paket i npm-registret, vilket utsätter utvecklare och organisationer världen över för en självförökande malware-stam som kallas ChainDrop. Säkerhetsforskare uppskattar att de drabbade paketen står för mer än 2 miljarder nedladdningar per månad, vilket gör detta till en av de mest betydande attackerna mot npm-ekosystemet hittills.

Kampanjen inleddes efter att angriparna fått tillgång till GitHub-kontot för en underhållsansvarig bakom flera välanvända paket, däribland Keyv, Cacheable, flat-cache och file-entry-cache. Väl inne injicerade hotaktören skadlig kod i legitima projekt och publicerade komprometterade paketversioner via officiella GitHub-arbetsflöden, vilket gjorde att de skadliga utgåvorna framstod som trovärdiga.

Skadlig programvara körs automatiskt under paketinstallationen och distribuerar en informationsstjälande nyttolast som är utformad för att samla in känsliga inloggningsuppgifter, API-tokens, molnhemligheter, databasåtkomstuppgifter och inloggningsuppgifter för CI/CD-pipelines. Forskare varnar för att den maskliknande skadliga programvaran kan sprida sig ytterligare genom att använda stulna inloggningsuppgifter för att kompromettera ytterligare repositorier och programvarupaket.

Säkerhetsföretag har rekommenderat organisationer som har installerat de drabbade versionerna att behandla berörda utvecklararbetsstationer och byggmiljöer som komprometterade. Rekommenderade åtgärder inkluderar att byta ut alla exponerade inloggningsuppgifter, bygga om drabbade system och granska loggar efter tecken på obehörig åtkomst.

Händelsen belyser den växande risken som attacker mot programvarans leveranskedja utgör samt den potentiella påverkan som komprometterade open source-beroenden kan ha på organisationer världen över.

Kenya framträder som ett viktigt mål för cyberbrottslighet i Östafrika

En ny bedömning av cyberhot från Interpol har identifierat Kenya som ett av Östafrikas främsta mål för cyberbrottslingar, och lyfter fram en kraftig ökning av attacker mot telekommunikationsnätverk, statliga system och mobila betalningstjänster. Rapporten varnar för att landets snabba digitala tillväxt har skapat nya möjligheter för hotaktörer som försöker utnyttja svagheter i kritisk infrastruktur och onlinetjänster.

Enligt resultaten registrerade Kenya mer än 46 000 DDoS-attacker (Distributed Denial-of-Service) under första halvåret 2025, där telekomleverantörerna drabbades hårdast. Myndigheterna rapporterade också om hundratals miljoner inbrottsförsök riktade mot myndighets- och IKT-system genom brute-force-attacker och tekniker för att utnyttja sårbarheter i programvara.

Mobilbedrägerier är fortfarande ett stort problem. Antalet SIM-swap-bedrägerier ökade med mer än 300 %, där cyberbrottslingar använde falska SIM-kort för att få tillgång till mobila konton och stjäla miljoner dollar. Rapporten nämnde även det uppmärksammade intrånget på Kenyas presidentwebbplats, där angriparna förstörde webbplatsen och krävde lösen i kryptovaluta.

Interpol noterade att grannländer, däribland Uganda, Tanzania och Rwanda, har utsatts för liknande hot, allt från ransomware-attacker till telekombedrägerier. Antalet incidenter i Kenya sticker dock ut i regionen, vilket förstärker oron över de växande cyberriskerna som hotar Afrikas expanderande digitala ekonomi.

Rapporten drar slutsatsen att ett starkare regionalt samarbete och samordnade cybersäkerhetsåtgärder kommer att vara avgörande för att bekämpa de alltmer sofistikerade gränsöverskridande nätverken för cyberbrottslighet.

Cyberattack mot schweizisk myndighet äventyrar 200 konton

Schweiziska myndigheter utreder en cyberattack mot SharePoint-servrar som drivs av Federal Office of Information Technology, Systems and Telecommunication (FOITT), vilket ledde till att cirka 200 användar- och tekniska konton komprometterades. Incidenten tros ha inneburit att angriparna utnyttjade nyligen avslöjade sårbarheter i Microsoft SharePoint-programvaran.

Efter upptäckten återställde FOITT omedelbart de drabbade lösenorden och blockerade internetåtkomsten till den drabbade SharePoint-miljön för användare utanför den federala förvaltningen. Myndigheten installerar också om de drabbade servrarna som en försiktighetsåtgärd medan utredningarna pågår. Intern personal inom regeringen kan fortfarande komma åt dokument via alternativa kanaler.

Enligt FOITT finns det för närvarande inga bevis för att ytterligare data har stulits eller läckt ut, och myndigheterna betonar att konfidentiell information och mycket känsliga personuppgifter inte får lagras på den drabbade SharePoint-plattformen. Utredningen stöds av Schweiz nationella cybersäkerhetscenter (NCSC) och Microsoft.

Händelsen belyser det fortsatta hotet från sårbarheter i vanligt förekommande företagsprogramvara. Schweiz registrerade förra året 325 cyberattacker mot kritisk infrastruktur, varav 28 riktade sig mot den federala förvaltningen. Myndigheterna varnar för att organisationer inom den offentliga sektorn fortfarande är attraktiva mål för cyberbrottslingar som söker tillgång till myndighetssystem och känslig information.

Cyberattack mot Intermarché avslöjar uppgifter om nästan 300 000 kunder

Den franska stormarknadskedjan Intermarché har bekräftat en cyberattack som har äventyrat personuppgifter för nästan 300 000 kunder som använder kedjans ”klicka och hämta”-tjänst, känd som Drive Intermarché. Dataintrånget inträffade efter att angripare fått obehörig tillgång till kundernas orderhistorik och kontoinformation.

Enligt Groupement Mousquetaires, som driver livsmedelskedjan, omfattar de exponerade uppgifterna kundernas namn, telefonnummer, postadresser, födelsedatum, lojalitetskortsnummer och vissa uppgifter om onlinebeställningar. Företaget betonade att inga bankuppgifter, lösenord, e-postadresser eller lojalitetspoängsaldon påverkades av incidenten.

Intermarché har redan underrättat cirka 287 000 drabbade kunder och varnat för att ytterligare utredningar kan leda till att fler personer som påverkats av dataintrånget identifieras. Incidenten har anmälts till Frankrikes dataskyddsmyndighet, CNIL, i enlighet med gällande regelverk.

Säkerhetsexperter varnar kunderna för att vara vaksamma mot nätfiskeförsök, eftersom cyberbrottslingar kan använda den stulna informationen för att utge sig för att vara Intermarché och lura offren att avslöja ytterligare personliga eller finansiella uppgifter. Detta dataintrång är det senaste i en växande rad av cyberattacker riktade mot stora franska organisationer, vilket belyser det fortsatta hotet mot detaljhandelssektorn och det ökande värdet av kunddata för angripare.

Om du är orolig för någon av de hot som beskrivs i detta meddelande eller behöver hjälp med att avgöra vilka åtgärder du bör vidta för att skydda dig mot de allvarligaste hoten som din organisation står inför, vänligen kontakta din kundansvarige ellerta kontaktmed oss för att ta reda på hur du kan skydda din organisation.

”Threat Intel Roundup” har sammanställts av Integrity360 och sammanfattar nyheter om hot utifrån våra observationer, aktuella vid publiceringstillfället. Den ska inte betraktas som juridisk rådgivning, konsultation eller någon annan form av professionell rådgivning. Eventuella rekommendationer bör beaktas utifrån just er organisations situation. Integrity360 intar ingen politisk ståndpunkt i den information som vi delar. Dessutom är de åsikter som uttrycks inte nödvändigtvis Integrity360:s egna.