AI Hallucinations શું છે? -

શું તમારું AI ચેટબોટ ખોટી માહિતી આપી રહ્યું છે? જાણો AI Hallucinations પાછળનું ટેકનિકલ કારણ અને તેને સુધારવાની રીતો. AI ભ્રામકતા એ ટેકનિકલ દુનિયાનો મોટો પડકાર છે.

આજના યુગમાં આપણે દરેક નાના-મોટા કામ માટે ChatGPT, Gemini કે Perplexity જેવા AI ટૂલ્સ પર નિર્ભર થઈ રહ્યા છીએ. ઘણીવાર આ ચેટબોટ્સ આપણને એટલા આત્મવિશ્વાસથી જવાબ આપે છે કે આપણને લાગે કે તે ૧૦૦ % સાચો જ હશે. પરંતુ, ઘણીવાર તમે કલ્પના પણ કરી ન હોય એવા ખોટા જવાબ હોય છે. ક્યારેક AI કોઈ એવી વ્યક્તિ કે ઘટના વિશે વાત કરે છે જેનું કોઇ અસ્તિત્વ જ નથી હોતું. ટેકનિકલ ભાષામાં આને ‘AI Hallucinations’ કહેવામાં આવે છે.

AI Hallucinations શું છે?

કોઈ AI મોડલ તેના ડેટામાં રહેલી માહિતીના આધારે જવાબ આપવાને બદલે કોઈ તદ્દન ખોટી, ભ્રામક અથવા કાલ્પનિક માહિતીને ‘હકીકત’ તરીકે રજૂ કરે, ત્યારે તેને ભ્રામકતા (Hallucination) કહેવાય છે. સરળ શબ્દોમાં કહીએ તો, જ્યારે AI ને જવાબ ખબર ન હોય ત્યારે તે પોતાની મેળે કોઈ તર્ક લગાવીને ખોટો જવાબ બનાવી દે છે.

AI કેમ ભૂલો કરે છે? મુખ્ય કારણો

ડેટામાં ખામી: જો AI ને ટ્રેન કરવા માટે વપરાયેલો ડેટા અધૂરો હોય કે ખોટો હોય, તો એઆઈ ખોટા જવાબ આપે છે.

પેટર્ન મેચિંગ: AI હકીકતોને સમજતું નથી, તે માત્ર શબ્દોની પેટર્ન ઓળખે છે. ક્યારેક તે બે અલગ અલગ હકીકતોને જોડીને એક નવો જ ખોટો જવાબ બનાવી આપે છે.

ઓવરફિટિંગ: ક્યારેક મોડલ ચોક્કસ ડેટાને વળગી રહે છે કે તે નવા પ્રશ્નોના સંદર્ભમાં ખોટો જવાબ આપે છે.

AI ભ્રામકતા સમસ્યાને કેવી રીતે રોકી શકાય?

Perplexity ના સીઈઓ અરવિંદ શ્રીનિવાસના મતે, આગામી 5 years માં આ સમસ્યાને ઘણી હદે ઉકેલી શકાશે. હાલમાં તેને રોકવા માટે નીચેની પદ્ધતિઓ વપરાય છે:

RAG (Retrieval-Augmented Generation): આ ટેકનિકમાં AI ને માત્ર તેના ડેટા પર નિર્ભર રાખવાને બદલે ઇન્ટરનેટ પરથી લેટેસ્ટ અને સાચી માહિતી લાઈવ સર્ચ કરવા માટે પ્રોત્સાહિત કરવામાં આવે છે.

ગ્રાઉન્ડિંગ (Grounding): AI ને સૂચના આપવામાં આવે છે કે જો જવાબ ખબર ન હોય તો “મને ખબર નથી” એવું કહી દેવું, ખોટો જવાબ ન બનાવવો.

હ્યુમન ફીડબેક (RLHF): જ્યારે કોઈ યુઝર ખોટા જવાબ પર ‘Dislike’ કરે છે, ત્યારે AI તેમાંથી શીખે છે કે આ માહિતી ખોટી હતી.