നാളെ വാട്ട്‌സ്ആപ്പിൽ പിണറായി വിജയന്റെ ശബ്ദത്തിൽ നിങ്ങളുടെ പേരെടുത്ത് വിളിച്ച് സുരേഷ് ഗോപിക്ക് വോട്ട് ചെയ്യണമെന്ന് ആവശ്യപ്പെട്ട് നിങ്ങൾക്ക് ഒരു ഓഡിയോ സന്ദേശം ലഭിച്ചാൽ എങ്ങനെയിരിക്കും?

ഞെട്ടിപ്പോയല്ലേ.

ഇന്ത്യയിൽ പലയിടങ്ങളിലും ഇന്ന് ഇത് സംഭവിച്ചുകൊണ്ടിരിക്കുകയാണ്, ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അഥവാ നിർമിത ബുദ്ധിയുടെ സഹായത്തോടെ.

നവംബർ 30ന് തെലങ്കാനയിൽ വോട്ടെടുപ്പ് ദിവസം രാവിലെ മുതൽ സാമൂഹ്യ മാധ്യമങ്ങളിൽ ഏഴ് സെക്കന്റ്‌ ദൈർഖ്യമുള്ള ഒരു വീഡിയോ വൈറൽ ആയി. കരണം എന്താണെന്ന് അറിയുമോ?

ബി.ആർ.എസ് അധ്യക്ഷൻ കെ.ടി. രാമറാവു ജനങ്ങളോട് കോൺഗ്രസിന് വോട്ട് ചെയ്യാൻ ആവശ്യപ്പെടുന്നതായിരുന്നു കോൺഗ്രസ്‌ എക്‌സിൽ പോസ്റ്റ്‌ ചെയ്ത ആ വീഡിയോ.

അനൗദ്യോഗികമായി കോൺഗ്രസ് പ്രവർത്തിപ്പിച്ചിരുന്ന ധാരാളം വാട്സപ്പ് ഗ്രൂപ്പുകളിൽ വീഡിയോ പ്രചരിപ്പിച്ചു. തുടർന്ന് ഇത് പാർട്ടിയുടെ എക്സ് അക്കൗണ്ടിലും പ്രത്യക്ഷപ്പെടുകയായിരുന്നു. 5 ലക്ഷത്തിലധികം ആളുകളാണ് വീഡിയോ കണ്ടത്.

വീഡിയോ ഡീപ്ഫേക്ക് സാങ്കേതിക വിദ്യയിലൂടെ സൃഷ്ടിച്ചതായിരുന്നു. എന്നാൽ ഒരു സാധാരണ വോട്ടർക്ക് ഇതിന്റെ വ്യത്യാസം തിരിച്ചറിയാൻ സാധിക്കില്ലെന്നും വോട്ടിങ് നടന്നുകൊണ്ടിരിക്കുമ്പോഴാണ് വീഡിയോ പുറത്തിറങ്ങിയത് എന്നതിനാൽ തന്നെ എതിർ പാർട്ടിക്ക് വിശദീകരണം നൽകാൻ ഇട ലഭിച്ചില്ലെന്നും ഒരു കോൺഗ്രസ് നേതാവ് അൽ ജസീറയോട് പറഞ്ഞു.

ഒരു വ്യക്തിയുടെ മുഖത്തെ സവിശേഷതകൾ അയാളുടെ ഫോട്ടോയിൽ നിന്നോ വീഡിയോയിൽ നിന്നോ ഒപ്പിയെടുത്ത് മറ്റൊരു വീഡിയോയിലെ വ്യക്തിയുടെ മുഖമാക്കി മാറ്റുന്ന എ.ഐ പ്രക്രിയയാണ് ഡീപ്ഫേക്ക്. അഭിനേത്രി രശ്മിക മന്ദാനയുടെ ഡീപ്ഫേക്ക് വീഡിയോ പ്രചരിച്ച വാർത്തകളും ഈ കേസിൽ പ്രതിയെ അറസ്റ്റ് ചെയ്തതുമെല്ലാം നമ്മൾ കണ്ടതാണ്.

ലോക്സഭാ തെരഞ്ഞെടുപ്പ് അടുത്തുകൊണ്ടിരിക്കെ എ.ഐ ടൂളുകൾ ഉപയോഗിച്ച് രാഷ്ട്രീയ പാർട്ടികളും വീഡിയോകളിലൂടെ വോട്ടർമാരെ സ്വാധീനിക്കുകയാണെന്ന് അൽ ജസീറയുടെ റിപ്പോർട്ടുണ്ട്.

2020 ഫെബ്രുവരിയിൽ ആണ് ഇന്ത്യയിൽ ആദ്യമായി രാഷ്ട്രീയക്കാർ പ്രചരണത്തിന് ഡീപ്ഫേക്ക് വീഡിയോകൾ ഉപയോഗിക്കാൻ തുടങ്ങിയത്.

ദൽഹിയിലെ നിയമസഭാ തെരഞ്ഞെടുപ്പിന് മുന്നോടിയായി ബി.ജെ.പി നേതാവ് മനോജ് തിവാരി ഹിന്ദിയിലും ഹരിയാനയിലും ഇംഗ്ലീഷിലും വോട്ടർമാരോട് സംസാരിക്കുന്ന വീഡിയോകൾ പുറത്തുവന്നു.

തിവാരി ഹിന്ദിയിൽ സംസാരിക്കുന്നത് മാത്രമായിരുന്നു യഥാർത്ഥ വീഡിയോ. തിവാരിയുടെ ശബ്ദവും അദ്ദേഹത്തിന്റെ ഭാവപ്രകടനങ്ങളും വാക്കുകളും ചുണ്ടിന്റെ അനക്കവുമെല്ലാം എ.ഐ ഉപയോഗിച്ച് സൃഷ്ടിച്ചുകൊണ്ടാണ് ഇംഗ്ലീഷും ഹരിയാനയും അറിയാത്ത തിവാരി ഈ ഭാഷകളിൽ സംസാരിക്കുന്ന വീഡിയോ പുറത്തുവന്നത്.

എന്നാൽ ഇത് സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് തയ്യാറാക്കിയതെന്ന് വെളിപ്പെടുത്താതെ ആയിരുന്നു ബിജെപി പ്രചരണം നടത്തിയത്, അതായത് തിവാരി തന്നെയാണ് ഇംഗ്ലീഷിലും ഹരിയാനയിലും സംസാരിക്കുന്നത് എന്ന് അവർ വോട്ടർമാരെ ധരിപ്പിച്ചു.

ഡീപ്ഫേക്ക് വീഡിയോകളുടെ മറ്റൊരു ഉദാഹരണം കഴിഞ്ഞ ആറുമാസത്തിനിടയിൽ മൂന്ന് തവണ ഡി.എം.കെയുടെ അധ്യക്ഷനായിരുന്ന എം. കരുണാനിധി പൊതുപരിപാടികളിൽ വലിയ സ്‌ക്രീനിൽ ജനങ്ങളോട് സംസാരിച്ചതാണ്. 2016ൽ പൊതുമണ്ഡലത്തിൽ നിന്ന് വിട്ടുനിന്ന അദ്ദേഹം 2018ലാണ് അന്തരിച്ചത്.

ജനങ്ങളെ ഇളക്കിമറിക്കാൻ കെൽപ്പുള്ള ഒരു നേതാവിന്റെ അഭാവം തമിഴ്നാട്ടിൽ ഉണ്ട് എന്ന വസ്തുതയെ മറികടക്കുവാൻ എ.ഐ ഉപയോഗിച്ച് കലൈജ്ഞറെ തിരികെ കൊണ്ടുവരികയാണ് ഡി.എം.കെ പ്രവർത്തകർ. വീഡിയോയിൽ കരുണാനിധി തമിഴ്നാട് മുഖ്യമന്ത്രി എം.കെ. സ്റ്റാലിന്റെ ഭരണത്തെയും അദ്ദേഹം നടപ്പിലാക്കിയ പദ്ധതികളെയും അഭിനന്ദിക്കുകയും കഴിഞ്ഞ 10 വർഷത്തെ ബി.ജെ.പി ഭരണകൂടത്തെ നിശിതമായി വിമർശിക്കുകയും ചെയ്യുന്നുണ്ട്.

രാജസ്ഥാൻ നിയമസഭാ തെരഞ്ഞെടുപ്പിൽ കോൺഗ്രസിന്റെ മുഖ്യമന്ത്രി സ്ഥാനാർത്ഥിയായി മത്സരിച്ച അശോക് ഗെഹ്‌ലോട്ടിന്റെ ശബ്ദത്തിൽ ഓരോ വോട്ടർമാരെയും പേരെടുത്ത് വിളിച്ചുകൊണ്ട് വാട്സാപ്പിൽ ഓഡിയോ സന്ദേശങ്ങൾ അയക്കുകയുണ്ടായി. 30കാരനായ ദിവ്യേന്ദ്ര സിങ് ജതൂനിന്റെ ഇന്ത്യൻ ഡീപ്ഫേക്കർ എന്ന എ.ഐ സ്റ്റാർട്ടപ്പ് ആയിരുന്നു രാജസ്ഥാൻ കോൺഗ്രസിന്റെ ഈ പ്രചാരണത്തിന് പിന്നിൽ.

ഇതെല്ലാം ഔദ്യോഗികപരമായ, മാന്യമായ പ്രവർത്തനങ്ങളാണെന്നും എന്നാൽ അധാർമികമായ ആവശ്യങ്ങൾ ഉന്നയിച്ച് രാഷ്ട്രീയപാർട്ടികൾ അന്താരാഷ്ട്ര നമ്പറുകളിലൂടെ വാട്സപ്പ് വഴിയും ഇൻസ്റ്റഗ്രാം, ടെലഗ്രാം വഴിയും ബന്ധപ്പെടാറുണ്ട് എന്ന് ജതൂൻ ജസീറയോട് പറഞ്ഞിരുന്നു.

നവംബറിൽ അഞ്ച് സംസ്ഥാനങ്ങളിൽ നടന്ന നിയമസഭാ തെരഞ്ഞെടുപ്പുകളിൽ അത്തരത്തിലുള്ള 50 ഓളം ആവശ്യങ്ങൾ തന്റെ കമ്പനി നിരസിച്ചു എന്ന് അദ്ദേഹം പറയുന്നു.

രാജസ്ഥാനിലെ ഒരു മണ്ഡലത്തിൽ നിന്ന് പാർട്ടിക്കാർ തങ്ങളുടെ സ്ഥാനാർത്ഥിയുടെ പ്രശ്നമുള്ള യഥാർത്ഥ വീഡിയോയിൽ മാറ്റം വരുത്തി അതിനെ റിയലിസ്റ്റിക്കായി അവതരിപ്പിക്കണമെന്ന് ആവശ്യപ്പെട്ട് തന്നെ സമീപിച്ചിരുന്നു എന്ന് ജതൂൻ പറയുന്നുണ്ട്. യഥാർത്ഥ വീഡിയോ ആണ് ഡീപ്ഫേക്ക് എന്നും പിന്നീട് സൃഷ്‌ടിച്ച വീഡിയോ ആണ് യഥാർത്ഥമെന്നും സ്ഥാപിക്കുകയായിരുന്നു ലക്ഷ്യം.

പോണോഗ്രഫി ഉൾപ്പെടെ ഉപയോഗിച്ച് രാഷ്ട്രീയ എതിരാളികളുടെ വീഡിയോകളും ഓഡിയോകളും മാറ്റണമെന്നാണ് പലരും ആവശ്യപ്പെടാറ്.

സ്വകാര്യ കൺസൾട്ടിങ് സ്ഥാപനങ്ങളിലൂടെയാണ് ഇത്തരം ഡീപ്ഫേക്ക് വീഡിയോകൾ നിർമിക്കുന്നത്. എന്നിട്ട് വാട്സ്ആപ്പിനെ മുന്നിൽ നിർത്തി സാമൂഹ്യ മാധ്യമങ്ങൾ വഴി പ്രചരിപ്പിക്കുന്നു.

സാധാരണ പൗരന്മാരുടെ നമ്പറുകളാണ് വാട്സാപ്പിൽ രജിസ്റ്റർ ചെയ്യുന്നത്. ഈ നമ്പറുകളിൽ നിന്നാണ് വീഡിയോകൾ പ്രചരിപ്പിക്കുന്നത് എന്നതിനാൽ പാർട്ടികളിലേക്കും സ്ഥാനാർത്ഥികളിലേക്കും എ.ഐ സ്ഥാപനങ്ങളിലേക്കും നേരിട്ട് എത്തിച്ചേരുക വളരെ പ്രയാസകരമായിരിക്കും.

നിർമാണ തൊഴിലാളികളുടെ മൊബൈൽ നമ്പറുകൾ ഉപയോഗിച്ചാണ് രാജസ്ഥാനിൽ ഇത്തരത്തിൽ വാട്സാപ്പിൽ ഒരു വലിയ നെറ്റ്‌വർക്ക് സൃഷ്ടിച്ചത് എന്ന് ഒരു സ്വകാര്യ കൺസൾട്ടന്റ് അൽജസീറയോട് വെളിപ്പെടുത്തി.

തെരഞ്ഞെടുപ്പിന് വേണ്ടി കള്ളപ്പണം സംഘടിപ്പിക്കണമെന്നും വോട്ടുകൾ പണം കൊടുത്ത് വാങ്ങുമെന്ന് ഭീഷണിപ്പെടുത്തിയും ചെറിയ മണ്ഡലങ്ങളിൽ സ്ഥാനാർത്ഥികൾക്കും എ.ഐ ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച ഓഡിയോ സന്ദേശങ്ങൾ ലഭിക്കാറുണ്ട്. സ്ഥാനാർത്ഥികളുടെ ശബ്ദം ഉപയോഗിച്ച് സൃഷ്ടിച്ച വ്യാജ ഓഡിയോകൾ അഴിമതിക്ക് തെളിവായും ചിലപ്പോൾ ഉയർത്തിക്കാണിക്കും.

നിർമിത ബുദ്ധി ഉപയോഗിച്ച് വോട്ടർമാരെ കബളിപ്പിക്കുന്നത് ഒരു തെറ്റായി ഒരു പാർട്ടിയും കാണുന്നില്ല ഒരു പ്രചരണ തന്ത്രം മാത്രമായി പാർട്ടികൾ ഇതിനെ നിസാരവത്കരിക്കുകയാണ്.

നിലവിൽ ഡീപ്ഫേക്കിനെ നിർവചിക്കുന്ന നിയമങ്ങൾ രാജ്യത്തില്ല. അപകീർത്തിപ്പെടുത്തൽ, വ്യാജവാർത്ത, ഒരു വ്യക്തിയെ തേജോവധം ചെയ്യൽ എന്നിവയുടെ അടിസ്ഥാനത്തിലും ഐ.ടി ആക്ടുകൾ പ്രകാരവുമാണ് കേസുകൾ എടുക്കുന്നത്.

പൊലീസ് കേസെടുക്കുന്നത് വീഡിയോ ഡീപ്ഫേക്ക് ആയതുകൊണ്ടല്ല, മറിച്ച് ആ വീഡിയോ സൃഷ്ടിക്കുന്ന പ്രത്യാഘാതങ്ങൾ കാരണമാണ്.

ഫെബ്രുവരി 16ന് മ്യൂണിച്ചിൽ വെച്ച് നടന്ന ആഗോള സുരക്ഷാ സമ്മേളനത്തിൽ, ലോകത്താകമാനമുള്ള ജനാധിപത്യ തെരഞ്ഞെടുപ്പുകൾ തകർക്കുന്ന രീതിയിൽ നിർമിത ബുദ്ധി ഉപയോഗിക്കുന്നതിനെ തടയുവാൻ ആവശ്യമായ മുൻകരുതലുകൾ സ്വീകരിക്കുന്നതിന് 16 പ്രധാന ടെക് കമ്പനികൾ ഉടമ്പടിയിൽ ഒപ്പുവെച്ചിരുന്നു. എന്നാൽ വളരെ ദുർബലമായ വാക്കുകൾ എഴുതിച്ചേർത്ത ഈ കരാറിനെ നിരവധിപേർ വിമർശിച്ചു രംഗത്ത് വന്നിരുന്നു.

മിക്ക ആളുകളും എ.ഐ ഉപയോഗപ്പെടുത്തുന്നത് വസ്തുതകളെ വളച്ചൊടിക്കുവാൻ വേണ്ടിയാണ്. ഒട്ടും സത്യമില്ലാത്ത വീക്ഷണങ്ങൾ സൃഷ്ടിച്ചെടുക്കുകയാണ് എ.ഐയിലൂടെ. ഇന്ത്യയിലെ സാമൂഹ്യ മാധ്യമങ്ങളുടെ നുഴഞ്ഞുകയറ്റവും നിർമിത ബുദ്ധിയിലെ വളർച്ചയും തെരഞ്ഞെടുപ്പുകളിൽ നിന്ന് സത്യത്തെ അപ്പാടെ അകറ്റിക്കളയുമോ എന്ന ഭയം മാത്രമാണ് ബാക്കിയാകുന്നത്.

Content Highlight: Deepfake democracy: Behind the AI trickery shaping India’s 2024 election