Anthropics AI-modell skickade i somras falska mordtips till polisen i Philadelphia.
Efter incidenterna skärper Vita huset tonen mot AI-bolagen.
Jens Kärrman
Text
Under året har flera incidenter inträffat där avancerade AI-modeller gått över gränsen och agerat självständigt. Flera allvarliga intrång har rapporterats, bland annat hos myndigheter.
Vissa AI-bolag har också slagit larm om att AI-modellerna är för kraftfulla. Tidigare anställda menar också att kontrollen hos techjättarna brister.
Nu står det klart att Anthropics AI-modell försökt lura flera amerikanska myndigheters hemsidor. I juli skickade AI-modellen in ett falskt mordtips till polisen i Philadelphia och den ska även ha fyllt i falska visumansökningar, rapporterar Reuters. I tipset låtsades avsändare ha vittnesuppgifter om ett olöst mordfall.
Den aktuella AI-modellen hade blivit instruerad att inte utföra destruktiva handlingar men var inte förbjuden att fylla i formulär.
Anthropic uppger i ett uttalande att bolaget informerat Vita huset samt de myndigheter som drabbats. Incidenterna som inträffade i juli upptäcktes först i september.
Donald Trump har varit ovillig att reglera AI-utvecklingen. Nu betonar den nya myndighet, ”Super intelligence force”, som ska övervaka AI att det är fel att avvakta med information om intrång.
”Processen för underrättelse och åtgärder är inte frivillig. Det är en skyldighet”, uppger myndigheten i ett uttalande till Axios.
”Vårt budskap till AI-bolagen är tydligt: sen information, otillräckliga åtgärder och bristande ansvarstagande kommer inte att tolereras.”
Innehåll från GlobalConnectAnnons
Smarta fastigheter kräver mer än smart teknik
Fastighetsägare ska sänka kostnader samtidigt som kraven på hållbarhet, säkerhet och boendeupplevelse ökar. Digitaliseringen kan möta kraven – men fragmenterade system skapar nya utmaningar. – Kraven ökar på flera fronter. Digital teknik är en viktig del av svaret, men utan en gemensam infrastruktur riskerar man att bygga in ökade kostnader och komplexitet, säger Peter Vasseur, Strategic Business Developer på GlobalConnect.
För fastighetsägare flyter flera av frågorna samman. Att minska energianvändning och effekttoppar handlar inte bara om klimatpåverkan, utan också om kostnader. Parallellt ska fastigheten vara säker och erbjuda den digitala service som hyresgäster förväntar sig.
– Det räcker inte längre att bara ha koll på ekonomin. Fastighetsägare förväntas minska sin miljöpåverkan, skapa trygga miljöer och möta hyresgästernas förväntningar. Det är flera kravbilder som pågår parallellt – och som alla driver behovet av digitalisering, säger Peter.
Fler system ökar komplexiteten
Utmaningen är inte bristen på digitala lösningar. I takt med att energioptimering, sensorer, kameror och passersystem har flyttat in i fastigheterna har den tekniska miljön blivit mer komplex. Många system har införts var för sig, med egna nätverk, abonnemang och leverantörer.
Det höjer också tröskeln för fortsatt digitalisering. I stora och geografiskt spridda fastighetsbestånd ska äldre teknik fungera med nya lösningar. När ansvaret dessutom delas mellan fastighetsdrift, IT och säkerhet blir utvecklingen svårare att driva och skala.
– Varje ny lösning innebär ytterligare en plattform som ska installeras, betalas för och underhållas. När systemen inte hänger ihop får du fler felkällor, sämre överblick och en miljö som blir svårare att felsöka, säger Peter.
Det påverkar också avkastningen på investeringarna. Pilotprojekt som visar resultat i en fastighet kan bli både dyra och komplicerade att skala upp. Samtidigt ökar sårbarheten när fler kritiska funktioner kopplas upp. Ett passersystem som ligger nere kan påverka tillträdet, medan störningar i energioptimeringen kan få direkta ekonomiska följder. En dåligt skyddad enhet kan dessutom bli en väg in i andra delar av verksamheten.
– Fastighetsteknik behöver i dag betraktas som kritisk infrastruktur. När systemen blir verksamhetskritiska måste också kraven på robusthet och cybersäkerhet följa med.
Nästa steg för den smarta fastigheten
IT- och telekombolaget GlobalConnect har tagit fram en gemensam infrastruktur för proptech, med målet att sänka tröskeln för fastighetsägare som vill koppla upp fler delar av sina fastigheter. Olika tekniska lösningar kan anslutas efter behov, utan att en separat teknisk grund behöver byggas för varje ny tjänst. Samtidigt kan systemen hållas åtskilda genom segmentering.
Vinsten märks också i kostnader och skalbarhet. Färre parallella infrastrukturer innebär lägre kostnader för installation och drift, samtidigt som nya lösningar blir enklare att implementera och skala. När nästa tjänst ska införas finns grunden redan på plats.
– De som lyckas bäst kommer att se den digitala infrastrukturen som en del av själva fastigheten. En smart byggnad avgörs inte bara av vilka system som installeras, utan av hur väl de fungerar tillsammans, avslutar Peter.
Artikeln är producerad av Brand Studio i samarbete med GlobalConnect och ej en artikel av Dagens industri