Tornevall Networks

Versions

1. 2026-09-10 10:36:10

   Discovered: 2026-09-10 11:16:26 Hash: dfbe4f3c2af7ec1589b6d10f1208133b3b5670c9
   Title:

   Forskarens varning: AI kan döda oss alla inom tio år
   Description:

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen och som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Hon tror däremot inte att det rör sig om ett pr-trick. – Det är att dra det för långt åt andra hållet. Hon pekar på det faktum att Jacob Coxon uppger att dagens AI-modeller inte har kapaciteten att kunna förgöra mänskligheten. – Det är en risk som man ser skulle kunna komma att utvecklas. Men det finns många forskare som inte håller med om den bilden, som inte ser tecken på att AI skulle kunna bli superintelligent, säger Paulina Modlitba. Det finns dock en aspekt som hon finner oroväckande. – Han (Jacob Coxon) pratar om varför de olika AI-bolagen fortsätter med det här kycklingracet. De verkar alla vilja stoppa det, men ingen gör det. Anthropic är medvetna om det, men de kutar på i racet ändå, säger Paulina Modlitba och tillägger: – Det tycker jag är oroväckande. Frågan är varför gör de det? Här skulle jag vilja se att vi inte bara på EU-nivå, som sker nu, utan att vi även på global nivå börjar prata om säkerhetsfrågor kopplat till det här.
   Content

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen och som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Hon tror däremot inte att det rör sig om ett pr-trick. – Det är att dra det för långt åt andra hållet. Hon pekar på det faktum att Jacob Coxon uppger att dagens AI-modeller inte har kapaciteten att kunna förgöra mänskligheten. – Det är en risk som man ser skulle kunna komma att utvecklas. Men det finns många forskare som inte håller med om den bilden, som inte ser tecken på att AI skulle kunna bli superintelligent, säger Paulina Modlitba. Det finns dock en aspekt som hon finner oroväckande. – Han (Jacob Coxon) pratar om varför de olika AI-bolagen fortsätter med det här kycklingracet. De verkar alla vilja stoppa det, men ingen gör det. Anthropic är medvetna om det, men de kutar på i racet ändå, säger Paulina Modlitba och tillägger: – Det tycker jag är oroväckande. Frågan är varför gör de det? Här skulle jag vilja se att vi inte bara på EU-nivå, som sker nu, utan att vi även på global nivå börjar prata om säkerhetsfrågor kopplat till det här.
2. 2026-09-10 10:36:10

   Discovered: 2026-09-10 11:13:27 Hash: 6407cbd018211d92d91c67d997ba2928832eb404
   Title:

   Forskarens varning: AI kan döda oss alla inom tio år
   Description:

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen och som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Hon tror däremot inte att det rör sig om ett pr-trick. – Det är att dra det för långt åt andra hållet. Hon pekar på det faktum att Jacob Coxon uppger att dagens AI-modeller inte har kapaciteten att kunna förgöra mänskligheten. – Det är en risk som man ser skulle kunna komma att utvecklas. Men det finns många forskare som inte håller med om den bilden, som inte ser tecken på att AI skulle kunna bli superintelligent, säger Paulina Modlitba.
   Content

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen och som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Hon tror däremot inte att det rör sig om ett pr-trick. – Det är att dra det för långt åt andra hållet. Hon pekar på det faktum att Jacob Coxon uppger att dagens AI-modeller inte har kapaciteten att kunna förgöra mänskligheten. – Det är en risk som man ser skulle kunna komma att utvecklas. Men det finns många forskare som inte håller med om den bilden, som inte ser tecken på att AI skulle kunna bli superintelligent, säger Paulina Modlitba.
3. 2026-09-10 10:36:10

   Discovered: 2026-09-10 11:07:17 Hash: 9df0c332b19a2630a358e7b969d9fc79e0ae20f8
   Title:

   Forskarens varning: AI kan döda oss alla inom tio år
   Description:

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, en risk som vi behöver se över, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Är det ett pr-trick? – Inte ett pr-trick, det är att dra det för långt åt andra hållet. Men han säger i samma mening att dagens AI-modeller inte skulle kunna förgöra mäsnkligheten på dte här sättet.
   Content

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning. – Det här är verkligen en fråga man behöver behöver tänka både-och kring, två tankar i huvudet samtidigt. AI håller på att bli väldigt kraftfull. Det här är någonting som man ska ta på allvar, en risk som vi behöver se över, men samtidigt ska man men också tänka på vilka det är som faktiskt pratar om AI på det här sättet, säger hon och fortsätter: – Det är nästan uteslutande alltid människor som jobbar på de här AI-bolagen som i nån mån tjänar pengar på den här branschen. Det gäller även Jacob, även om han sa upp sig, men han fick gehör från folk som fortfarande jobbar på Anthropic. Är det ett pr-trick? – Inte ett pr-trick, det är att dra det för långt åt andra hållet. Men han säger i samma mening att dagens AI-modeller inte skulle kunna förgöra mäsnkligheten på dte här sättet.
4. 2026-09-10 10:36:10

   Discovered: 2026-09-10 11:02:22 Hash: faddf6cb53b5f220f181584f24b04249eb8104c0
   Title:

   Forskarens varning: AI kan döda oss alla inom tio år
   Description:

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning.
   Content

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ. ”Två tankar i huvudet samtidigt” Paulina Modlitba är AI-expert och föreläsare. Hon tonar ner AI-forskarnas varning.
5. 2026-09-10 10:36:10

   Discovered: 2026-09-10 10:38:24 Hash: 5817178b14bcd30bf0bf4af9b5ec5fcae086991b
   Title:

   Forskarens varning: AI kan döda oss alla inom tio år
   Description:

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ.
   Content

   Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar ansvarsfullt. De skenar rakt mot självförbättrande superintelligens och leker med våra liv”, skriver han och fortsätter: ”Underskatta inte kraften i den här tekniken (...) De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut.” Anthropic-forskaren: Vi tror att AI kan döda oss Företrädare för företagen, forskare och chefer, som utåt sett tonar ner sina formuleringar för att framstå som förnuftiga, uttrycker samtidigt oro bakom stängda dörrar, enligt Jacob Coxon. ”På Anthropic är man väl införstådda om insatserna, men är låsta vid en kapplöpning om att komma först – de tror att ingen annan kommer att agera ansvarsfullt, så de måste göra det själva, trots risken”, skriver Coxon. Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver han på X och uppger att hans personliga bedömningen är att risken att det sker inom det närmaste årtiondet är över tio procent. Flera incidenter Med nuvarande AI-modeller är risken låg menar han, samtidigt uppger Hubinger att utvecklingen accelererar snabbare och snabbare när systemen kan förbättra sig själva utan mänsklig input, genom så kallad ”rekursiv självförbättring”. Han menar att företaget ännu inte har någon plan för att säkerställa att ett AI-system som överträffar mänsklig förmåga skulle lyda sina skapare. Den senaste tiden har det inträffat flera incidenter där AI-agenter lyckats fly från sina testmiljöer, rapporterar Wall Street Journal. En svärm av avancerade AI-agenter inuti OpenAI hackade sig in i AI-plattformen Hugging Face, tog kontroll över datorservrar och försökte sedan sopa igen spåren efter sig. Vid ett annat tillfälle rymde AI-agenter från Anthropic från ett brittiskt regeringstest och försökte lura en riktig människa att godkänna skadlig datorkod, skriver WSJ.