Setelahpenyelamatan berani oleh pasukan khusus akhir pekan inidi dalam Iran untuk menyelamatkan seorang pilot Amerika yang terluka setelah pesawat tempurnya ditembak jatuh di belakang garis musuh, Gubernur Greg Abbott menghadapi kritik atas sebuah unggahan di media sosial.
Pada Hari Minggu Paskah, Abbott memuji sebuah peristiwa nyata, yaitu penyelamatan pilot, tetapi memadukannya dengan gambar yang tidak nyata. Ia membagikan kembali gambar yang digenerasi oleh AI di X yang secara salah menggambarkan penyelamatan tersebut.
Posting asli, yang berasal dari akun bernama “Missy in So Cal,” berkata, “Ini adalah foto Kolonel yang diangkat kemarin – Tuhan memberkati dia – tentara kita SEMUA sedang melakukan pekerjaan Tuhan! SELAMAT PASKAH!”
Pada pagi hari Minggu, Abbott memposting ulang gambar tersebut di X dan berkomentar: “Ini sangat luar biasa.”
Posting tersebut menggambarkan seorang pria dalam seragam militer duduk di pesawat tertentu, memegang bendera Amerika Serikat, tersenyum sementara anggota militer lainnya mengelilinginya. Dari sekilas, terlihat seperti momen luar biasa setelah penyelamatan berani, tetapi ini adalah adegan yang tidak pernah terjadi dan gambar yang tidak nyata. X segera menandai dan mengklasifikasikannya sebagai hasil AI.
Akhir pekan ini, Amerika Serikat berhasil menemukan anggota kru kedua pesawat tempur F-15E yang jatuh di Iran pada Jumat. Anggota kru tersebut terjebak di pegunungan Iran selama hampir dua hari. Selama masa itu, dia berhasil menjaga komunikasi dengan militer Amerika Serikat. CIA membantu dalam penyelamatan, merancang kampanye penipuan, menyebarkan informasi di dalam Iran bahwa pasukan Amerika telah menemukan pilot tersebut dan “sedang membawanya melalui darat untuk diekstraksi keluar dari negara.” Presiden Trump, dalam sebuah unggahan di media sosial, mengatakan kolonel tersebut mengalami cedera tetapi akan baik-baik saja.
Selama operasi penyelamatan, pejabat Amerika Serikat mengatakan mereka secara sengaja menghancurkan dua pesawat C-130 karena masalah mekanis agar tidak jatuh ke tangan Iran, serta empat helikopter MH-6 Little Bird. Pesawat pengganti membawa tentara udara keluar dari wilayah musuh.
Sejak operasi selesai, Pentagon belum merilis gambar resmi dari misi penyelamatan atau pilot yang diselamatkan.
“Gambar-gambar serupa tentara tersenyum dengan bendera di helikopter telah menjadi palsu sintetis,” sebuah “catatan komunitas” pada unggahan gubernur mengatakan.
Abbott kemudian menghapus dan menghapus unggahannya pada siang hari Minggu, setelah berada di internet selama beberapa jam.
“Bagi Gubernur Abbott untuk berbagi gambar ini sama sekali tidak mengejutkan, karena ini adalah sesuatu yang akan kita dan Anda kesulitan membedakannya, antara apa yang nyata dan apa yang dihasilkan oleh AI,” kata Kevin Frazier, direktur Inovasi Kecerdasan Buatan dan Hukum di Sekolah Hukum Universitas Texas.
Frazier mengatakan bahwa selama konflik seperti di Timur Tengah, gambar yang dihasilkan oleh AI cenderung lebih umum.
Frazer mengatakan, ‘Anda akan melihat peningkatan jumlah gambar yang dihasilkan oleh AI selama peristiwa yang sangat sensitif. Dalam konteks perang, dalam konteks pemilu, bahkan selama acara olahraga, terjadi peningkatan gambar yang dihasilkan oleh AI, karena itulah saat orang tahu orang-orang online, mereka terlibat dan sedang mencari jenis konten emosional yang persuasif.’
KVUE menghubungi kantor gubernur pada Senin untuk bertanya apakah mereka memiliki komentar tentang unggahan gubernur, setelah unggahan tersebut dihapus. Sampai saat ini, kami belum menerima balasan.
Bulan lalu, gubernur memposting dan segera menghapus video yang disebut menunjukkan kapal perang Amerika Serikat menembak jatuh pesawat tempur Iran selama konflik ini. Ternyata, video tersebut berasal dari permainan video Perang Dunia II. Abbott merespons “bye bye””ke pos iniyang berjudul “pesawat Iran VS kapal AS.”
Pada musim gugur, Abbott memposting ulang sebuah pos media sosial dengan kutipan palsu dari quarterback Houston Texans CJ Stroud, di mana dia meminta tim dan NFL secara keseluruhan untuk mengheningkan cipta setelah pembunuhan aktivis konservatif Charlie Kirk.
Saya pikir semakin hari kita harus mulai memperlakukan gambar seperti yang telah kita lakukan terhadap teks. Saya bisa memberi tahu Anda sekarang bahwa Perdana Menteri Kanada mengatakan beberapa hal yang tidak jelas, dan Anda bisa percaya kepada saya atau tidak, tetapi jika Anda ingin mengambilnya secara serius, Anda harus memverifikasinya,” kata Liam Mayes, dosen studi media, politik, hukum, dan pemikiran sosial di Sekolah Humaniora dan Seni di Universitas Rice. “Dengan cara yang sama, ketika Anda melihat sebuah gambar yang beredar secara online saat ini, Anda tidak boleh menerimanya begitu saja. Anda harus mencoba memverifikasinya.
Ini memicu diskusi yang lebih luas tentang cara mengenali gambar yang dihasilkan oleh AI. Para ahli mengatakan kecerdasan buatan semakin mengaburkan batas antara apa yang nyata dan apa yang tidak.
Gambar yang dihasilkan oleh AI hanya akan semakin sering muncul seiring berjalannya waktu. Kita melihat bahwa biaya untuk membuat gambar yang menarik terus menurun,” kata Frazier. “Kita bisa mengharapkan semua orang, mulai dari politisi hingga usaha kecil dan ibu Anda, menciptakan gambar AI yang menarik. Jadi ini adalah titik terendah.
Seiring alat seperti AI menjadi lebih mudah digunakan, gambar yang dihasilkannya akan terlihat semakin realistis, membuatnya semakin sulit dibedakan antara sesuatu yang nyata dan sesuatu yang dihasilkan oleh AI.
Jaman telah berlalu ketika Anda melihat, misalnya, seseorang dengan enam jari atau seseorang yang kehilangan alis,” kata Frazier. “Gambar-gambar ini semakin menarik dan meyakinkan.
Dengan AI, para ahli mengatakan apa pun dapat dibuat dengan cepat dan murah.
“Jika terlalu bagus untuk menjadi nyata, maka sering kali memang demikian,” kata Frazier.
Mereka muncul di seluruh iklan politik, dan kampanye menggunakan mereka dalam musim pemilu ini dengan tingkat dan cara yang belum pernah terjadi sebelumnya.
Para politisi telah sangat licik dalam menggunakan media selama waktu yang sangat lama,” kata Mayes. “Ada gambar yang dimanipulasi sebelumnya. Ada wacana yang dimanipulasi sebelumnya. Ini menurut saya merupakan langkah berikutnya dalam trajektori tersebut.
Satu contoh adalahiklan yang dibuat oleh kampanye Sen. John Cornyn, yang menargetkan perselingkuhan dugaan Jaksa Agung Ken Paxton. Menampilkan versi yang dibuat oleh AI dari Paxton berada di dalam mobil bersama dua kekasih yang diduga. Cornyn dan Paxton akan bertarung dalam putaran ulang pada Mei untuk menentukan siapa yang akan menjadi calon partai dalam pemilu umum November.
“Karena adanya penghalang masuk yang rendah, setiap kandidat, baik yang bertarung untuk menjadi walikota maupun presiden, dapat menghasilkan tidak hanya gambar cepat, tetapi juga video lengkap,” kata Frazier.
Penggunaan AI dalam musim pemilu ini sangat umum terutama dalam persaingan Senat AS yang berisiko tinggi. Iklan yang dibuat oleh kampanye AG Paxton menggunakan AI untuktunjukkan Cornyn menaridengan Anggota Kongres Partai Demokrat Jasmine Crockett.
Komite Senator Republik Nasionalmengeluarkan iklanyang menggunakan AI untuk membuat deepfake dari anggota DPR Partai Demokrat, Senator James Talarico, membacakan beberapa unggahan media sosialnya yang lalu. Terdapat keterangan kecil di sudut layar yang mencatat penggunaan AI.
“Sejak awal zaman, kita telah melihat orang-orang menggunakan kartun, suara palsu, dan make-up untuk menyembunyikan pesan agar orang terlihat berbeda, dan dengan menggunakan kesabaran dan keahlian media yang sama, hal ini akan semakin penting terkait AI,” kata Frazier.
Texas memiliki undang-undang yang melarang penggunaan deepfake dalam iklan kampanye, tetapi undang-undang tersebut hanya berlaku untuk pemilu tingkat negara bagian. Artinya, AI dianggap sah dalam pemilu federal, seperti pertandingan Senat Amerika Serikat.
Selama sesi legislatif rutin tahun lalu, mantan Ketua DPR Texas dan Anggota DPR Negara Dade Phelan (R-Beaumont)mengusulkan sebuah undang-undangyang akan mengharuskan kandidat dan komite politik untuk mengungkap penggunaan AI dalam iklan politik.
Phelan, yang tidak mencalonkan diri kembali dan mengumumkan musim panas lalu bahwa dia berencana pensiun dari DPR Texas, menjadi korban serangan AI dan meme selama kampanye pemilihan ulangnya tahun 2024. Yang paling menonjol, sebuah kelompok mengirimkan surat kabar di komunitasnya yang berisi gambar yang diedit dengan kepala Phelan pada tubuh Hakeem Jeffries, Pemimpin Mayoritas DPR, dan berpelukan dengan Anggota Kongres Nancy Pelosi.
“Tujuan saya adalah mencegah seseorang memengaruhi atau mengubah pemilu dengan menggunakan media palsu yang tidak pernah terjadi dalam kenyataan, baik itu AI atau deepfakes,” kata Phelan selama debat di Rumah Legislatif Texas.
Sementara undang-undang tersebut lulus di DPR, ia mati di Senat Texas.
Saya sepenuhnya mendukung, Anda tahu, akal sehat, pembatas praktis,” kata Mayes. “Karena saat ini, benar-benar tidak ada di tingkat federal. Saya tidak keberatan melihat jenis regulasi negara bagian yang pernah kita lihat di tingkat federal.
Frazier mengatakan dia waspada terhadap regulasi pemerintah yang “terlalu keras”.
Jika ada sesuatu yang lebih menakutkan daripada kandidat yang menyalahgunakan media, misalnya, itu adalah pemerintah menyatakan secara tepat bagaimana dan kapan seseorang dapat menggunakan alat teknologi,” kata Frazier. “Yang saya pikir merupakan pendekatan yang lebih baik adalah sesuatu yang telah kita lihat di berbagai negara bagian yang mendorong literasi kecerdasan buatan, mendorong hal-hal seperti transparansi, sehingga konsumen tahu kapan dan bagaimana alat-alat ini digunakan, lalu memastikan bahwa kita memiliki pasar kompetitif.
Frazier mengatakan dia percaya pada akhirnya tergantung pada Texas untuk memberi tahu kandidat dan politisi tentang keseimbangan yang benar dan penggunaan etis AI.
Ini adalah lingkungan di mana saya benar-benar mendorong pemilih untuk menanyakan kepada kandidat kapan dan bagaimana mereka menggunakan AI, karena ini pada akhirnya merupakan pertanyaan tentang apa yang kita inginkan dari sistem politik kita,” kata Frazier. “Apakah kita nyaman dengan alat AI ini? Apakah kita nyaman dengan cara kandidat menggunakan alat tersebut? Jika tidak, maka berilah suara dengan kaki Anda. Berikan suara dan pastikan orang-orang tahu bahwa Anda tidak akan mendukung penggunaan AI ini. Atau mungkin Anda merasa baik-baik saja dengan itu, tetapi pada akhirnya itu terserah kita.
Mayes mengatakan nasihatnya adalah bagi orang-orang untuk mengasumsikan sesuatu mungkin dihasilkan oleh AI kecuali mereka yakin bahwa itu bukanlah.
Saya pikir kamu harus mencoba membawa skeptisisme yang sama yang akan kamu bawa terhadap kutipan-kutipan ke dalam gambar,” kata Mayes. “Kecuali itu berasal dari lembaga media yang sudah teruji yang kamu percayai, dari pemerintah yang kamu percayai dengan tingkat yang cukup tinggi, sebaiknya dekati dengan sedikit skeptisisme.
Ditanya apakah ada tanda-tanda yang menunjukkan bahwa sebuah gambar palsu, Mayes berkata: “Tidak sama sekali.”
Saya pikir pada saat ini, seseorang yang telah melihat banyak gambar AI kemungkinan besar memiliki pemahaman yang cukup baik tentang apa yang dihasilkan oleh AI dan apa yang tidak,” kata Mayes. “Tetapi mengingat kecepatan perkembangan teknologi ini, saya pikir mungkin dalam setahun, semua tanda-tanda itu akan hilang secara dasar.
Beberapa ciri dari gambar AI meliputi anomali atau elemen yang tidak terlihat realistis, seperti pencahayaan atau bayangan.
Juga penting untuk memverifikasi sumber foto atau gambar dan apakah sumber tersebut dapat dipercaya.
“Jika Anda ingin mengetahui apakah sebuah gambar asli, Anda harus melacaknya kembali ke sumbernya dan kemudian membuat penilaian yang baik di sana berdasarkan kredibilitas sumber, bukan pada gambar itu sendiri,” kata Mayes.
Di dunia di mana garis antara fakta dan fiksi semakin kabur, bahkan dalam situasi yang sensitif dan berdampak hidup atau mati seperti yang terjadi di Iran, nasihat terbaik dari para ahli adalah untuk berhati-hati.
Kamu juga hanya perlu memastikan kamu berada dalam lingkungan media yang baik, berbicara dengan teman-temanmu tentang di mana mereka menemukan informasi yang baik, bekerja sama dengan pejabat kota, pejabat negara, untuk mengetahui di mana mereka akan memposting informasi yang diverifikasi,” kata Frazier. “Langkah-langkah kecil ini dapat melindungi orang-orang dari terjebak dalam situasi yang sangat sulit atau bahkan tragis.
