StriseWiki
Teknologi

Sådan markerer Strise AI-genereret tekst

Strise registrerer, hvem der har skrevet hvert fritekstfelt, som platformens AI-funktioner kan udfylde, og markerer AI-skrevet tekst, hvor end den forlader Strise. Personer, der læser teksten, kan se, at AI har skrevet den, og software kan detektere det. Artikel 50, stk. 2, i EU AI Act kræver, at AI-genereret tekst markeres i et maskinlæsbart format, og denne artikel beskriver, hvordan Strise gør det. AI-genereret tekst er markeret og kan verificeres.

Hvem har skrevet en tekst

Strise registrerer tekstoprindelsen for fem felter: vurderingens egenvurdering, de anbefalede handlinger, vurderingsresuméet, teamets risikokontekst og kommentaren på en PEP-, sanktions- eller screeningliste-disposition. Hvert felt har én af fire tekstoprindelser:

TekstoprindelseHvornår
AI-genereretStrise AI har skrevet teksten, og ingen har ændret den.
AI-genereret og redigeret af en brugerStrise AI har skrevet teksten, og en bruger har efterfølgende redigeret den.
MenneskeEn bruger har skrevet teksten. Et felt bliver kun Menneske igen, når en bruger rydder det helt, før vedkommende skriver.
UkendtTeksten blev gemt, før Strise registrerede, hvem der skrev den. Strise fremsætter ingen påstande om den.

Hændelsesresuméet for adverse media og begrundelsen ved assisteret verifikation af PEP, sanktioner og adverse media er altid skrevet af AI og markeres som AI-genereret. Når du indsætter assistentens resumé i en dispositionskommentar for PEP eller sanktioner, er tekstoprindelsen AI-genereret. Hvis du derefter tilføjer noget eller redigerer den, bliver tekstoprindelsen AI-genereret og redigeret af en bruger. Ved verifikation af adverse media indeholder dispositionskommentaren kun dine egne ord; assistentens begrundelse holdes adskilt fra den og markeres som AI-genereret.

AI-markøren

AI-skrevet tekst forsynes med én af to markører:

  • [AI-generated by Strise]
  • [AI-generated by Strise, edited by a user]

Strise gemmer aldrig markøren som en del af teksten. Den tilføjes på ethvert punkt, hvor teksten forlader Strise:

HvorHvordan markøren vises
I StriseUnder teksten, på vurderingskortet, i vurderinger, i Aktivitetsloggen, i hændelsesresuméer for adverse media og på indstillingssiden for risikokontekst. Også på PEP-, sanktions- og screeningliste-dispositioner og i deres revisionsspor.
Kopieret tekstTilføjes i slutningen af al tekst, du kopierer eller klipper fra et markeret felt.
PorteføljeeksportEfter egenvurderingen i kolonnen Comments i CSV-filen. Se Porteføljeeksport.
Eksport af revisionssporEfter dispositionskommentaren i kolonnen Comment i CSV-filen.
Vurderings-PDFEfter teksten, sammen med en signatur og metadata. Se AI-markører i Vurderings-PDF.
Strise Connect APII et separat felt til tekstoprindelse, med en signeret oprindelsespost. Se Tekstoprindelse i Connect API.

Menneskeskrevet og ukendt tekst har ingen markør.

Tekstoprindelse i Connect API

Strise Connect API returnerer en vurderings egenvurdering uændret i Review.selfAssessment. Dens tekstoprindelse findes i Review.selfAssessmentOrigin:

query {
  review(where: { id: "<review id>" }) {
    selfAssessment
    selfAssessmentOrigin {
      kind
      model
      generatedAt
      editedAt
      signedRecord
    }
  }
}
FeltIndhold
kindAI_GENERATED, AI_EDITED, HUMAN eller UNKNOWN.
modelDen AI-model, der har skrevet teksten. Angivet for AI_GENERATED og AI_EDITED.
generatedAtTidspunkt for, hvornår modellen skrev teksten. Angivet for AI_GENERATED og AI_EDITED.
editedAtTidspunkt for, hvornår en bruger senest har redigeret teksten. Angivet for AI_EDITED.
signedRecordEn signeret oprindelsespost. Angivet for AI_GENERATED og AI_EDITED.

Kommentaren på en disposition fungerer på samme måde: Disposition.comment indeholder teksten, og Disposition.commentOrigin dens tekstoprindelse.

For HUMAN og UNKNOWN returnerer Strise ingen signeret oprindelsespost og fremsætter ingen påstand om, at AI har været involveret.

Verificer en signeret oprindelsespost

signedRecord er en kompakt JSON Web Signature (JWS). Dens header indeholder alg: ES256, typ: strise-ai-origin+jwt og signeringsnøglens kid. Dens payload indeholder:

ClaimIndhold
sha256Den normaliserede teksts fingeraftryk: dens SHA-256-hash i små heksadecimale bogstaver, som identificerer teksten uden at indeholde den.
originAI_GENERATED eller AI_EDITED.
modelDen AI-model, der har skrevet teksten.
generatedAtTidspunkt for, hvornår modellen skrev teksten.
iatTidspunkt for, hvornår Strise signerede posten.

Sådan kontrollerer du selv en post:

  1. Hent Strises offentlige nøgler fra https://app.strise.ai/.well-known/ai-provenance/jwks.json.
  2. Verificer JWS-signaturen med den nøgle, hvis kid matcher headeren, og kontroller, at typ er strise-ai-origin+jwt.
  3. Normaliser den tekst, du har. Konverter den til Unicode NFC, fjern begge AI-markører, erstat enhver række af blanktegn med et enkelt mellemrum, og trim begge ender.
  4. Sammenlign SHA-256-værdien af den normaliserede tekst, kodet som UTF-8, med værdien i claimet sha256.

Nøglefilen fra trin 1 viser alle nøgler, Strise har signeret med, også dem der ikke længere bruges. Hver nøgle står i filen i mindst 10 år efter den sidste post, den signerede. Et matchende fingeraftryk viser, at teksten er den, Strise har registreret. Du kan også indsætte posten i AI-tekstverifikatoren i stedet.

AI-tekstverifikatoren

Når du er logget ind i Strise, kan du kontrollere en tekst eller en signeret oprindelsespost på app.strise.ai/verify. Siden er også linket fra Indstillinger → AI-genereringslog. Myndigheder, forskere, medier og civilsamfundsorganisationer uden en Strise-konto kan anmode om gratis adgang via ai-transparency@strise.ai. Uden verifikatoren kan du kontrollere en signeret oprindelsespost mod Strises offentliggjorte nøgler på https://app.strise.ai/.well-known/ai-provenance/jwks.json. For at kontrollere en Review-PDF skal du åbne signaturpanelet i en PDF-læser.

  • Tekst: Indsæt en tekst, f.eks. en der er kopieret fra en rapport. Din browser beregner tekstens fingeraftryk og sender kun fingeraftrykket. Strise slår det op i AI-genereringsloggen og viser funktion, model og tidspunkt for hvert match. Det vises aldrig, hvilket team teksten blev genereret for.
  • Signeret post: Indsæt værdien for signedRecord fra Connect API. Strise kontrollerer signaturen mod sine publicerede nøgler og viser tekstoprindelse, model og tidspunkter i posten.

Hvert resultat angiver, hvad det er baseret på, og du kan downloade det som en signeret fil for at vise det til andre. Strise gemmer hverken teksten eller dens fingeraftryk. Verifikatoren accepterer ikke PDF-filer; siden forklarer, hvordan du kontrollerer en Vurderings-PDF's signatur i en PDF-læser. Siden angiver også adressen til spørgsmål om AI-genereret tekst fra Strise.

En tekstkontrol finder kun tekster, der findes i genereringsloggen. Når den ikke finder noget, står der "Intet match i loggen (poster opbevares i op til 10 år)" i resultatet. Hvert team vælger sin egen opbevaringsperiode, og verifikatoren ved aldrig, hvilket team en tekst tilhører, så den angiver den længste.

Intet match betyder ikke, at et menneske skrev teksten. Almindelige årsager til intet match:

  • Teamet havde slået logning fra.
  • Posten har overskredet sin opbevaringsperiode.
  • Teksten er ændret, efter Strise skrev den.
  • Strise skrev teksten, før logningen begyndte.

Indstillinger for logning

Hvert team bestemmer, om Strise logger fingeraftryk af teamets AI-genererede tekst, og hvor længe. Loggen er aktiveret som standard med 5 års opbevaring; mulighederne er 13 måneder, 5 år og 10 år. Når din aftale med Strise ophører, sletter Strise dit teams poster i loggen sammen med resten af teamets data. Brugere med rollen Manager ændrer dette under Indstillinger → AI-genereringslog. Se AI-genereringslog for, hvad der logges, og samtlige valgmuligheder.

Sidst opdateret

På denne side