Trustpilots användning av AI

Vårt mål på Trustpilot är att bli en universell symbol för förtroende. Målet är viktigt med tanke på att AI förändrar hur vi upptäcker och utvärderar företag. Vi tror starkt på att en ansvarsfull användning av AI är avgörande för att vi ska uppnå vårt mål. Vi utvecklar vår plattform för att se till att både konsumenter och företag drar nytta av framsteg inom AI.

Den här sidan beskriver vårt förhållningssätt till AI samt vilka Trustpilot-funktioner som är skapade med hjälp av AI. Läs om hur vi har utformat AI-drivna verktyg så att de är säkra, pålitliga och enkla att använda.

Vad menar vi med AI?

Vi använder termen ”AI” när vi menar artificiell intelligensteknik och programvara som gör det möjligt för maskiner att tillämpa lärande och resonemang i sin beslutsfattning. Besluten förbättrar i sin tur systemens förmåga att uppnå specificerade mål.
Hos Trustpilot använder vi flera typer av AI-teknik för att förbättra plattformen och våra tjänster:

• Maskininlärning (ML): En underkategori av AI där system tränas med hjälp av exempeldata. Vi använder ML i stor utsträckning i våra system som upptäcker bedrägerier samt i moderationsprocesser av innehåll.

• Behandling av naturligt språk (NLP): Teknik som hjälper maskiner att bearbeta och förstå mänskligt språk. Vi använder NLP för att ta fram insikter och attityder i kundomdömen och för att driva våra semantiska analysfunktioner.

• Generativ AI: AI-system som skapar nytt innehåll baserat på mönster från träningsdata. Vi använder generativ AI för vissa specifika funktioner, bland annat i AI-assisterade svar och för innehållsmoderation.

Hur använder vi AI?

AI-driven bedrägeriupptäckt

Vårt engagemang för autenticitet är kärnan i vår verksamhet. Trustpilot använder en mängd olika maskininlärningstekniker för att upptäcka och ta bort bedrägligt innehåll i stor skala. Systemen analyserar mönster och letar efter suspekt aktivitet i miljontals omdömen. Mönster som kan signalera falska eller kompenserade omdömen är bland annat onaturligt språk, ökningar i antalet omdömen samt andra typer av avvikelser.

Våra modeller lär sig och anpassar sig kontinuerligt. De skapar nya strategier som används för att hantera förtroendebetyg. Idag tas mer än 90 % av falska omdömen bort automatiskt. Vi kan agera snabbt och ligga steget före bedrägeritrender.

Generativ AI i moderation och policytillämpning

År 2024 utökade vi vår användning av AI genom att använda generativ AI för att upprätthålla plattformspolicyer mot bland annat identitetsförfalskning, otillåten användning eller felaktig information. Tekniken hjälper oss att identifiera överträdelser av våra riktlinjer och rapportera potentiellt skadligt eller vilseledande innehåll.

Genom att automatisera identifieringen av policyöverträdelser kan vi bearbeta och granska mer innehåll snabbare och mer konsekvent.

Mänsklig granskning för ansvarstagande

AI är ett bra verktyg, men på Trustpilot används det inte utan tillsyn. Trustpilot kompletterar automatiseringen med ett team av utbildade moderatorer som granskar rapporterat innehåll, kontrollerar komplexa ärenden och ser till att beslut överensstämmer med våra standarder och värderingar.

Med mänsklig inblandning kan vi undvika överdrivet beroende av automatisering och säkerställa att omdömen utvärderas rättvist. Det är särskilt viktigt när sammanhang och ton är avgörande för att tolka vad användaren menar.

Vi hjälper konsumenter att göra val med AI-drivna funktioner

På Trustpilot använder vi AI för att hjälpa konsumenter att göra rätt val. Verktygen är:

• AI-sammanfattningar av företagsprofiler: Den här funktionen hjälper konsumenter att snabbt få en bild av vad folk säger om ett företag. AI-sammanfattar hundratals eller tusentals omdömen och presenterar det senaste och mest relevanta i en kort och lättläst sammanfattning. Sammanfattningen ger användarna en snabb och pålitlig överblick av de allmänna attityderna.

• Ämnen och vanligaste omnämnanden: våra AI-modeller kan sortera omdömen efter teman. Stora mängder feedback kan snabbt omvandlas till tydliga teman, som ”kundservice” eller ”betalning”. När konsumenterna snabbare hittar relevant information och feedback kan de göra säkrare beslut.

• Sökmotor: Vår smarta och språkmedvetna sökmotor gör det möjligt för miljontals användare att navigera i vårt nätverk med över en miljon företag och över 3 000 företagskategorier.

Att få företag att växa med AI-drivna funktioner

På Trustpilot använder vi också AI för att skapa verktyg som hjälper företag att snabbare interagera med omdömeslämnare och få viktiga insikter som kan förbättra deras tjänster. Verktygen består av:

• AI-assisterade omdömessvar: AI-system skyddar inte bara plattformen, de kan även hjälpa företag att hantera omdömen mer effektivt och i större skala. Våra smarta svarsverktyg kan automatiskt generera personanpassade svar på kundomdömen. Företaget kan alltid redigera svaren och använder bara automatiska svar när de vill. Verktygen underlättar kundserviceteamens manuella arbete samtidigt som de upprätthåller en konsekvent ton för varumärket. Läs mer om AI-assisterade omdömessvar i vårt hjälpcenter.

• Attitydanalys, ämnen och fokus på omdömen: Vi använder också AI för att hjälpa företag att förstå sin feedback snabbare. AI lyfter fram och identifierar positiva, negativa eller neutrala attityder i omdömens innehåll och kategoriserar dem enligt ämne. Vårt verktyg för fokus på omdömen sammanfattar en stor mängd omdömen enligt tydliga teman. Företagets team kan upptäcka trender, ta itu med problem proaktivt och ta fram insikter som kan ligga till grund för förbättringar av produkter, tjänster och arbetssätt.

• Omdömescitat: AI gör det också enklare och smidigare att visa upp omdömesinnehåll. Vårt nya verktyg för omdömescitat visar automatiskt citat från omdömen. Citaten kan automatiskt grupperas efter AI-skapade teman för att visa relevanta omdömen på mål- eller produktsidor Läs mer om omdömescitat i vårt hjälpcenter.

• Marknadsinsikter: Verktyget marknadsinsikter analyserar omdömen och företagsprofiler med hjälp av avancerade språkmodeller för att identifiera och gruppera liknande företag i relevanta jämförelsegrupper. Företagen i grupperna kan ta del av objektiva och datadrivna jämförelsemått, statistiska jämförelser och trender i resultat över tid. Funktionen erbjuder företag en objektiv grund att göra jämförelser på och ett perspektiv på det specifika marknadslandskapet. Läs mer om marknadsinsikter i vårt hjälpcenter.

Hur säkerställer vi säker användning av AI?

Vi har ett omfattande ramverk som stöds av tydliga policyer och processer och som övervakar AI. Alla kan använda vår plattform och våra AI-drivna funktioner med vetskap om att de är utformade med säkerhet och ansvar i åtanke.

Vårt ramverk bygger på följande principer:

• Innehåll du kan lita på: vi använder branschledande tekniker för att rensa bort falska omdömen, identifiera missbruk av plattformen och säkerställa att vårt innehåll är trovärdigt.

• Mänsklig inblandning: våra experter i datavetenskap är involverade i implementering, löpande underhåll och granskning av våra AI-system. De ägnar särskild uppmärksamhet åt teknologi som kan ha en eventuell betydande inverkan på konsumenter eller företag. För att upprätthålla rättvisa och transparens erbjuder vi alltid möjligheten att föra vidare beslut som rör innehållsmoderation till en människa.

• Utformning med dataetik: vår interna policy för dataetik och AI kräver att vi involverar etiska överväganden i våra system ända från början. Systemen testas, valideras och övervakas av människor, vilket förhindrar skador och orättvis behandling av individer eller grupper.

• Sekretess & Säkerhet: Vi har erhållit en SOC 2 Typ 2-intygsrapport och implementerar strikta säkerhetsprotokoll och sekretesskontroller genom hela företagets arbete för att säkerställa att konsument- och företagsdata hanteras i linje med branschstandarder och vår egen sekretesspolicy. Se här för att få mer information.

• Ansvarsskyldighet och transparens: våra ML- och AI-team utvecklar och distribuerar modeller med stark och tydlig tillsyn och ansvarsskyldighet gentemot vårt ledarskapsteam. Vi säkerställer intern transparens genom att dokumentera hur data används, hur systemen är utformade och vilka resultat de producerar eller vilka beslut de tar.