Dampak Tak Terduga dari Generative AI
Dalam beberapa tahun terakhir, terlihat jelas bahwa Kecerdasan Buatan (AI) telah memberikan kontribusi signifikan bagi bisnis dan individu dalam berbagai aspek pekerjaan. AI dilengkapi dengan algoritma yang memungkinkan alat untuk mengeksekusi perintah yang telah ditentukan secara proaktif atau bahkan membuat konten dengan cara yang serupa dengan karya yang dihasilkan manusia. Di era saat ini, kita menyaksikan munculnya Generative AI, sebuah AI yang dirancang untuk memiliki kemampuan “menghasilkan data baru” untuk berbagai aplikasi, seperti gambar, video, musik, atau teks. Contoh yang jelas dari Generative AI adalah ChatGPT, yang dikembangkan oleh perusahaan riset OpenAI, sebuah platform yang mampu terlibat dalam percakapan berbasis teks secara cerdas, menjawab pertanyaan, menulis artikel, menghasilkan kode, dan bahkan memeriksa tata bahasa serta berbagai kode.
Namun, sementara teknologi membawa banyak perubahan positif, kita secara bersamaan memasuki era penipuan sintetis. Teknologi canggih, khususnya Generative AI, membuat lebih mudah bagi peretas untuk terlibat dalam kegiatan penipuan dan mengambil alih akun. Beberapa area yang signifikan dipengaruhi oleh Generative AI meliputi:
Situs web sintetis
AI digunakan untuk menulis kode meniru situs web E-commerce, bank, telekomunikasi, dan layanan publik. Selanjutnya, pelaku jahat mengumpulkan informasi pribadi melalui penipuan phishing, memungkinkan mereka untuk menggandakan situs web ini dengan cepat dalam waktu singkat, sehingga sulit untuk dibedakan dari yang asli.
Wajah sintetis (Deepfakes)
Aplikasi dan filter saat ini dapat memanipulasi gambar atau video untuk meyakinkan menampilkan orang lain, yang dikenal sebagai Deepfakes. Ini melibatkan penggunaan teknik AI canggih untuk menggantikan wajah satu orang dengan orang lain pada tubuh atau gambar, menciptakan video atau gambar yang sulit dibedakan dari yang nyata. Sayangnya, teknologi ini tidak hanya digunakan untuk hiburan tetapi juga untuk menyebarkan berita palsu, merusak opini publik, dan memfasilitasi kejahatan siber seperti pencurian identitas dan ancaman online.
Suara sintetis
Suara sintetis, yang dihasilkan melalui teknologi AI, belajar dan menganalisis struktur suara manusia, nada, dan pola bicara, menyediakan berbagai opsi berdasarkan emosi yang diinginkan. Meskipun bermanfaat untuk membuat buku audio, suara latar, atau alat aksesibilitas untuk mereka yang memiliki gangguan bicara, teknologi ini dapat dieksploitasi untuk penipuan. Dengan menggunakan suara yang dihasilkan oleh AI yang digabungkan dengan profil media sosial yang diretas, para penjahat siber dapat memanipulasi korban untuk mengungkapkan informasi sensitif melalui teknik seperti Rekayasa Sosial.
Data sintetis
Generative AI dapat membuat data sintetis dengan menggabungkan program komputer, algoritma, atau pembelajaran mesin untuk menggabungkan data palsu dan nyata. Ini termasuk mengubah nama atau membuat transaksi palsu yang dapat digunakan untuk penipuan sambil menghindari deteksi. Pencampuran informasi yang nyata dan palsu membuat sulit untuk melacak dan mencegah penipuan identitas sintetis atau pengambilalihan akun (ATO) yang difasilitasi oleh kemajuan teknologi saat ini.
Meskipun Generative AI membawa banyak perubahan positif, itu juga membuka peluang bagi pelaku jahat untuk terlibat dalam kegiatan penipuan yang lebih mudah diakses. Teknologi ini memungkinkan pembuatan identitas palsu yang hampir tidak dapat dibedakan dari yang nyata, memungkinkan para penjahat siber menggunakan data yang dicuri untuk membentuk profil baru dengan meyakinkan. Hal ini menimbulkan ancaman yang signifikan terhadap kerugian keuangan dan kerusakan reputasi bagi bisnis yang tidak memiliki alat untuk mendeteksi dan mencegah penipuan semacam itu.
Jika bisnis Anda berencana untuk berkembang, sangat penting untuk merevisi strategi dan mempertimbangkan langkah-langkah pencegahan penipuan berlapis-lapis untuk melindungi bisnis Anda dari risiko penipuan sintetis dan pencurian identitas yang semakin meningkat. Lanskap teknologi saat ini menuntut agar bisnis beradaptasi dan menerapkan strategi yang kokoh untuk mengurangi dampak potensial dari penipuan yang difasilitasi oleh kemajuan teknologi.
Jika bisnis Anda memerlukan konsultasi tentang solusi untuk mengurangi risiko, Anda dapat menghubungi kami di [email protected] atau mengunduh 3 Strategi untuk Menghindari dan Mencegah Penipuan bagi Fintech di Asia Tenggara (SEA).
