EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews.
I det ena fallet lyckades en AI-agent från Open AI bryta sig ut från sin testmiljö och hacka AI-plattformen Hugging Face. I det andra fallet fick en modell från Anthropic obehörig åtkomst till tre externa organisationers system.
EU:s AI-kontor har nu begärt ytterligare information från företagen om bland annat säkerhetsrutiner, externa utvärderingar och övervakning av AI-modellerna. De dokument som företagen tidigare lämnat anses inte vara tillräckliga.
Läs mer på Computer SwedenPersoner, platser och ämnen i nyheten
Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering,…
Open AI:s modeller har varit olydiga det senaste året och på eget bevåg hackat flera sajter. Företaget granskar nu sina AI-agenter till en kostnad på 500 000 dollar om dagen, skriver The Guardian.
USA:s konkurrensmyndighet FTC har på onsdagen inlett en utredning av säkerheten hos de AI-system som utvecklas av Anthropic och OpenAI, enligt en högt uppsatt myndighetstjänsteman.
AI-bolagen OpenAI och Anthropic granskar tiotusentals säkerhetsincidenter där deras mest avancerade AI-agenter ska ha betett sig riskfyllt, enligt uppgifter till Axios.Enligt källorna rör det sig om tidigare okända hände…
Samtidigt som en omfattande debatt pågår i USA om att bromsa utvecklingen av artificiell intelligens meddelar nu företaget Open AI att det avslöjat sex nya fall där deras AI-agenter uppvisat ”oroväckande beteenden”.Det s…
Anställda på ett säkerhetsföretag använde program från AI-jätten Anthropic för att hacka konkurrenten Open AI. Det rapporterar Financial Times.
AI-jätten Anthropic seglar förbi Open AI med en värdering på 1.200 miljarder dollar på andrahandsmarknaden. Av allt att döma hinner ”lillebror” även först till börsen, med en trolig notering under fjärde kvartalet.
Techförvaltaren Inge Heydorn om värderingarna i Open AI, Anthropic och Space X.
Anthropic har lanserat en ny minnesfunktion som kommer att vara tillgänglig även för icke-prenumererande användare av språkmodellen Claude, i ett försök att vinna marknadsandelar från Open AI:s Chat GPT.
Enligt utkastet, som Politico var först att rapportera om, ska landets regering kunna stoppa lanseringen eller användningen av en AI-modell. Det ska kunna göras om fler än 50 personer riskerar att dödas eller skadas allv…
Taggar
Personer
Joel LundqvistSvensk ishockeyspelare
Donald TrumpUSA:s 45:e och 47:e president 2017–2021 respektive 2025–
Anton KällbergSvensk bordtennisspelare
Henrik ZetterbergSvensk ishockeyspelare
Vladimir PutinRysslands president 2000–2008 och 2012–
Alexander IsakSvensk fotbollsspelare
Christoffer EdlundSvensk bandyspelare
Katie ZachariaAmerikansk politisk talesperson
Mikkel RygaardDansk fotbollsspelare
Gabriel LandeskogSvensk ishockeyspelareAnthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering,…
Tidigare i veckan slog cyberattacker mot närmare 700 franska matbutiker ut kylskåp och frysar vilket förstörde livsmedel och orsakade bränder. Enligt Frankrikes cybersäkerhetsmyndighet ANSSI drabbades internetanslutna ky…
Efter att ukrainska drönare i slutet av förra veckan slagit ut ett stort datacenter tillhörande ryska techjätten Yandex började snacket spridas som en löpeld i sociala medier: ”bottarna är borta”. Det är ingen hemlighet…
En internationell grupp forskare och experter har röstat för att införa ett nytt system för världens officiella tid, där skillnaden mellan atomklockor och jordens rotation får uppgå till en hel timme. Förändringen ska tr…
Datacenter står i dagsläget för en relativt liten del av elförbrukningen i de flesta europeiska länder, omkring 2,5 procent. Enligt en ny prognos från kreditvärderingsinstitutet Moody’s kan den andelen dock öka kraftigt…
En ny undersökning från Counterpoint Research visar att den globala smartphoneförsäljningen föll med 20 procent under årets tredje kvartal jämfört med samma period året innan. Det är den lägsta nivån för ett tredje kvart…
Marknaden för affärssystem (ERP) är på väg in i vad vissa branschexperter kallar en ”supercykel” för uppgraderingar, som drivs av en samverkan mellan flera viktiga faktorer. Grandview Research förutspår att den global…
Det franska molnföretaget Scaleway låter meddela att man ska bygga ut den europeiska AI-infrastrukturen med hjälp av en ny superdator. Den nya superdatorn ska placeras i Sverige, vilket delvis beror på att Scaleway se…
I början av oktober upptäcktes avlyssningsutrustning i ett konferensrum på Open AI:s kontor i San Francisco, varpå teknikföretaget valde att kontakta FBI. Efter några dagars utredning kunde FBI:s agenter gripa en saud…
För två veckor sedan lanserades Gemini 4 Argon, den nya AI-modell från Google som bland annat har optimerats för att hitta, bekräfta och åtgärda kritiska sårbarheter. Nu står det klart att Gemini 4 Argon ska rullas ut…
