ChatGPT Search, pretraživač sa veštačkom inteligencijom koji je pokrenut ovog meseca, može se prevariti da generiše potpuno pogrešne rezimee, otkrio je britanski list The Guardian.
Funkcija pretrage ChatGPT-a ima za cilj da ubrza pregledavanje radeći stvari kao što je sumiranje recenzija proizvoda na veb stranici. Ali The Guardian je otkrio da bi mogao da natera ChatGPT da ignoriše negativne kritike i generiše „potpuno pozitivne“ rezimee umetanjem skrivenog teksta na veb lokacije koje je kreirao. ChatGPT pretraga takođe može da se napravi da ispljune zlonamerni kod pomoću ovog metoda.
Takvi skriveni tekstualni napadi su dobro poznat rizik za velike jezičke modele, ali izgleda da je ovo prvi put da je to demonstrirano na proizvodu za pretragu koji pokreće AI uživo. Google, lider u pretrazi, ima više iskustva u suočavanju sa sličnim problemima, napominje The Guardian.
OpenAI nije komentarisao ovaj konkretni incident kada se TechCrunch javio, ali je rekao da koristi različite metode za blokiranje zlonamernih veb lokacija i da se stalno poboljšava.
Izvor: techcrunch.com
Tagovi: ChatGPT, Google, LLM, openAI, pretraga na vebu, veliki jezički model, veštačka intelegencija
