27. januar 2025 lanserte DeepSeek sin R1 versjon av språkmodellen DeepSeek som sjokkerte markedet, og har skapt mye mediaomtale og bekymringer rundt den geopolitiske maktkampen og innovasjon innenfor KI-teknologi.
Bekymringene rundt DeepSeek er den usikre behandlingen av personopplysninger, eierforhold av selskapet, lovkrav til overlevering av til kinesiske myndigheter, lagring av tastemønster i APP, ingen regulativer som beskytter personvernet for borgere i EU og EØS og tvilsom brukeravtale mellom bruker og selskapet for av APP og tjenesten på Internett.
Vi vil derfor anbefale at APPen DeepSeek ikke installeres på noen enheter som tilhører organisasjonen (gjelder spesielt tjenestetelefoner, men også private telefoner som tilknyttet vårt kommunale trådløse nett), samt registering av konto hos DeepSeek med kommunal e-postadresse og bruk på enheter som eies av kommunen. Dette gjelder all kommunikasjon mot deepseek.com domenet
Har du allerede registrert deg eller lastet ned APP, så anbefaler vi på det sterkeste at dette fjernes.
For spørsmål rundt DeepSeek, ta kontakt med Kai Røen, sikkerhetsleder i IKT Fjellregionen IKS
Telefon: 980 56 100
E-post: kai.roen@fartt.no
Er også tilgjengelig på Teams
Vi oppfordrer også at andre kinesiske APPer fjernes fra tjenestetelefoner (TikTok, Temu, DeepSeek, Helo, AliExpress, WeChat, SHAREit, UC Browser, CamScanner, VivaVideo m.m). Dette gjelder også APPer som er laget for kjente merker som Xiaomi (Roborock, Mi Robot), Ecovacs, 360, Duhua/Imou, Yi, Ezviz, Nio, Xpeng, Byd, Geely). Dette gjelder også APPer som er utviklet og eies av selskaper utenfor EU, EØS og USA.
Mer informasjon fra fagfolk om tema
Nå som DeepSeek AI har tatt verden med storm, er det vel passende å minne statsråder, stortingspolitikere og andre etterretningsutsatte personer i Norge på følgende:
– DeepSeek er et kinesisk selskap. I denne appen, som all annen kinesisk programvare, vil selskapet ha rapporteringsplikt til myndighetene innen 48 timer om tekniske sårbarheter som kan utnyttes til å utføre offensive cyberoperasjoner.
– Ved innstallering av DeepSeek oversendes ikke bare personinformasjon, men også teknisk informasjon om enheten som appen er installert på. Dette er igjen informasjon som kan utnyttes for å gjennomføre en målrettet cyberoperasjon.
– I programvare kontrollert av kinesiske selskaper er det selskapet som bestemmer hvilken kode appen inneholder. Dette betyr at DeepSeek er i kontroll over hvilke kinesiske bakdører appen innehar og kan utnyttes til å utføre cyberoperasjoner. Å oppdatere appen til siste versjon hjelper ikke. Snarere tvert imot.
– Dersom mobiltelefonen som DeepSeek er installert på er knyttet til viktigere IT-systemer, slik som virksomhetens nettverk – så blir appen og enheten en potensiell angrepsvektor inn mot virksomhetens IT-systemer og nettverk.
Det er mye fint og flott med nyutvikling av teknologi, også nye KI-løsninger. Her er imidlertid kinesiske selskaper nå helt i front. Det er bare å se på antallet vitenskapelige publikasjoner innen forskning som avgis fra kinesiske universiteter. De er minst på høyde med USA. Muligens bedre. Kina kommer til å ligge langt fremme i utviklingen av nye KI-tjenester.
For alle som ikke er i etterretningsutsatte posisjoner og som likevel ønsker å ta i bruk DeepSeek, så er det også greit å minne om at KI-modellen kommer med kinesiske sensurregler. Det du får ut av informasjon vil andre ord være påvirket av den som setter reglene.
DeepSeek er derfor ikke bare en spennende app, men også en potensiell geo-politisk maktfaktor fra Kina. Det samme er tilfellet for TikTok erstatteren RedNote.
Simen Bakke
Senior Information Security Advisor, Politiets IT-enhet
28. januar 2025
DeepSeek tar verden med storm! Teknologien er spennende, men flere risikofaktorer trekkes frem. La oss forsøke å se det store bildet i prioritert rekkefølge:
1. Konkurransen i KI-kappløpet mellom USA og Kina tiltar i styrke. Dette samtidig som at det pågår en kald krig mellom de to statene, hvor økonomi, innflytelse og teknologi er noen av de viktigste faktorene for å oppnå geo- og sikkerhetspolitisk påvirkning. DeepSeek gir Kina fordeler innen alle tre faktorene. Bruk av DeepSeeks språkmodeller bidrar dermed direkte til å gi kinesiske selskaper økt innflytelse.
2. DeepSeek er underlagt kinesiske sensurregler og innholdet den presenterer påvirkes av reglene som er satt av de kinesiske utviklerne og dataene som modellen er trent på. Dette betyr at informasjonen du som bruker får presentert kan være produsert med utgangspunkt i kinesiske synspunkter og verdier. Vi må med andre ord nå velge mellom kinesisk sensurpolitikk eller amerikansk ytringsfrihet på høygir.
3. Etterretningsutsatt personell som statsråder, stortingspolitikere og andre i sensitive yrker bør vurdere risiko før DeepSeek installeres. Alle kinesiske selskaper blir pålagt å dele informasjon knyttet til sårbarheter i programvaren med myndighetene innen 48 timer. Teknisk informasjon om mobiltelefonen vil også bli overført. Dette kan igjen utnyttes til å utføre offensive cyberoperasjoner mot spesielt interessante etterretningsmål – noe Kina utfører i stort omfang.
4. DeepSeek vil overføre informasjonen som du skriver inn i modellen til servere i Kina. Dette gjelder for bruk av tjenesten i app eller på nett, men ikke om du har en lokal installasjon som du forvalter selv (noe de færreste har). Ved bruk av DeepSeek vil du bidra til å trene opp fremtidige KI modeller og gi DeepSeek kunnskap om vestlige og norske forhold. Hvordan dette blir utnyttet i fremtiden kan vi bare spekulere i.
Dette er fire risikoscenarioer som jeg vil trekke frem, i prioritert rekkefølge. Jeg vil også fremheve at det kan være positive sider ved utviklingen av nye KI-modeller og tjenester, også fra Kina. Det er ikke heldig for oss om techselskaper fra USA har monopol på utviklingen.
Samtidig er det viktig å ha med i betraktningen at de KI-modellene som vi velger å benytte oss av handler ikke bare om risiko knyttet til oss som enkeltpersoner. I større grad handler det om det pågående teknologi og KI-kappløpet mellom USA og Kina som vil bidra til å gi de to statene økt geo- og sikkerhetspolitisk innflytelse. Og favorisering av de moralske verdiene og levereglene som statene bygger sine samfunn på.
Hvilke KI-modeller og tjenester vi benytter oss av er derfor et verdivalg om hvordan vi ønsker at en fremtidig høyteknologisk verden skal være. Der vil jeg klart foretrekke norske og europeiske alternativer.
Simen Bakke
Senior Information Security Advisor, Politiets IT-enhet
29. januar 2025
Selv om mange har blitt overrasket over nyheten med Deepseek som nå er billigere (og kanskje tilogmed bedre enn GPT i noen ting?) Så er det egentlig bare naturlig utvikling
1: Deepseek er ikke den første open-source LLM fra Kina. Flere modeller har blitt lansert, blant annet Qwen fra Alibaba Cloud. Senest i går lanserte Qwen en ny versjon, Qwen 2.5-Turbo, som støtter opptil 1 million tokens (~750.000 ord) og inkluderer en ny bildemodell.
2: Deepseek er ca 1/10 av prisen til GPT-4o fra OpenAI å scorer tilsvarende på mange av de ulike benchmarkene, men
– Bildebehandling skjer via OCR i stedet for et nevralt nettverk.
– Den er primært trent på engelsk og kinesisk, noe som betyr at den presterer veldig dårlig på nordiske språk. Mange publiserte benchmarks er kjørt kun på kinesisk.
– Støtter kun 64000 tokens (~48000 ord) mens GPT støtter 128000 tokens.
– Den er ikke like god på function calling, noe som gjør det vanskeligere å integrere den med tredjepartstjenester.
3: Deepseek kan, som mange andre modeller, kjøre på egen infrastruktur. Men for å oppnå funksjonalitet på nivå med GPT-4o kreves det hele 1,3 TB med GPU-minne, tilsvarende 15x NVIDIA H100 – en investering på rundt 20 millioner NOK.
4: Mange av de minste modellen kan kjøre lokalt på egen PC med maskinvare ved å bruke verktøy som Ollama som kan kombineres med LMStudio for å få en fullstendig offline GenAI model.
5: Deepseek-R1 er en av de første stor-skala modellene som benytter Multi-Token Prediction. Dette betyr at modellen forsøker å forutsi de neste to ordene samtidig i en gitt kontekst, noe som kan øke hastigheten og presisjonen i genererte svar.
6: Dersom man benytter Deepseek via mobil appen eller nettside, så vil de samle inn en del informasjon rundt bruken av tjenesten.
Brukerinput: Tekst, lyd, filer og chathistorikk.
Tekniske data: Enhetsinformasjon, operativsystem og IP-adresse.
Bruksmønster: Hvordan modellen benyttes samt prompts som blir sendt inn.
7: I går lanserte Deepseek sin nye datamodell Janus-Pro, som introduserer også multimodalitet for bildegjenkjenning og generering.
8: DeepSeek har programmert 20 av de 132 prosesseringsenhetene på hver H800 (Begrenset utgave av H100) spesielt for å håndtere kommunikasjon mellom brikkene. For å få det til måtte DeepSeeks ingeniører gå ned til PTX, et lavnivå instruksjonssett for Nvidia-GPUer som i praksis fungerer som assembly.
9: Selv om NVIDIA-aksjen falt kraftig, er det viktig å vite at nesten all AI-trening og inferens er avhengig av NVIDIA sin programvarearkitektur, CUDA. Dette betyr at NVIDIA fortsatt har en dominerende posisjon i markedet fremover. Selv om det kommer nye løsninger blant annet for AMD.
Når ChatGPT ble lansert i November 2022, hadde det en kost på 120$ for 750,000 ord, mens nå i dag koster det ca 2,5$ som betyr en reduksjon på ca 98%, men nå med Deepseek-R1 er vi nå nede i 99,9% reduksjon i pris sammenlignet med ChatGPT.
Marius Sandbu
Manager – Cloud Evangelist, Sopra Steria
29. januar 2025
Tirsdag manet sikkerhetsfilosof til å utvise varsomhet rundt Deepseek. Også regjeringen oppfordrer til å utvise aktsomhet rundt appen.
– Selv vil jeg ikke ta Deepseek i bruk på mine digitale enheter som er tilknyttet departementet, sier justis- og beredskapsminister Emilie Enger Mehl (Sp) til Digi. Det skjer etter at sikkerhetsrådgiver Simen Bakke i Politiets IT-enhet manet statsansatte og politikere til tenke seg nøye om før de installerer Deepseek på sine enheter i går.
Kan brukes i angrep innen 48 timer
Bakke mener vi har for lite kunnskap om hvordan Deepseek fungerer. Han er klar på at KI-appen vil kunne sende informasjon til Kina.
Deepseek sender ikke bare personinformasjon, men også teknisk informasjon om enhetene det er installert på, argumenterte Bakke. Kinesiske selskaper har nemlig rapporteringsplikt til å gjøre nettopp det om de finner sårbarheter av interesse. Innen 48 timer kan nyttige data utnyttes i cyberangrep.
– I programvare kontrollert av kineserne befinner det seg sårbarheter og det kan være installert bakdører som kan utnyttes, sa sikkerhetsrådgiveren til Digi.
Mehl advarer
Justis- og beredskapsminister Emilie Enger Mehl tar oppfordringen alvorlig. Hun sier at regjeringen ber alle utvise aktsomhet når de tar i bruk apper, sosiale medier og andre digitale tjenester som tilbys fra tek-selskapene. Mehls sier det alltid vil være en risiko for at disse tjenestene lekker informasjon til formål som ikke er ønskelig.
– Det er viktig at vi er bevisste disse utfordringene, og følger gode sikkerhetsråd fra myndighetene, sier Mehl.
Hun viser til Nasjonal sikkerhetsmyndighets (NSM) råd som kom i fjor høst.
NSMs nye appråd
Der oppfordrer det statlige organet både statsansatte og norske virksomheter til å være særs forsiktige når de installerer apper på tjenestetelefoner. «Disse er en integrert del av organisasjonens digitale infrastruktur med samme behov for sikring som en bærbar PC» heter det i inngangen til rådene. Mehl sier både hun og NSM mener det er viktig å gi generelle råd grunnet det store mangfoldet av apper vi omgås.
– Regjeringens utgangspunkt er å oppfordre til bevissthet om bruken, og sørge for at tjenestene er så trygge som mulig og følger norske lover og regler, sier Mehl til Digi og fortsetter:
– Vi legger til grunn at norske virksomheter benytter disse rådene i sitt sikkerhetsarbeid.
Gullgruve av informasjon
Sikkerhetsrådgiveren påpekte at om mobiltelefonen har installert Deepseek mens den er tilknyttet kritiske IT-systemer via nettverket, vil kineserne sitte på en gullgruve av informasjon. Også vanlige folk må være oppmerksomme på at Deepseek ikke er uproblematisk, argumentere han. Når Deepseek-appen nå er mer relevant å ta i bruk for nordmenn flest, minnet Bakke også om at kineserne driver omfattende sensurering av informasjon. Ifølge Bakke er heller ikke amerikanske tekgiganters applikasjoner uproblematiske:
– Ingen av disse aktørene jobber for å ivareta norske interesser. Det vil være både sårbarheter i programkoden og innsamling av personinformasjon.
Lagres til evig tid i Kina
Sikkerhetsdirektør Lars Eirik Berg i konsulentselskapet Semaphore sier kineserne de siste årene har innført en rekke lover som gir myndighetene bred adgang til å samle inn sensitiv informasjon om oss.
Berg sier at brukervilkårene til Deepseek er fulle av krumspring. Derfor kan de hente ut store informasjonsmengder fra dataene som skapes av brukerne.
– Flere av forholdene er ikke veldig overraskende for de av oss som har jobbet tett med Kina-problematikk og utfordringer over flere år, sier han til Digi.
Sikkerhetsdirektøren påpeker at om data deles med myndighetene, vil ikke Deepseek informere brukerne som rammes.
Han tolker vilkårene dithen at informasjon som deles ut av Deepseek vil kunne lagres hos kinesiske myndigheter til evig tid.
– Har du laget en konto, men velger å slette den, vil uansett all informasjon fortsatt være tilgjengelig i Kina, sier han.
Martin Braathen Røise
digi.no, 29. januar 2025
Artikkelen er publisert på digi.no
