AI di sini untuk membantu, sama ada anda sedang menulis e-mel, membuat seni konsep, atau menjalankan penipuan terhadap individu yang rentan dengan membuat mereka fikir anda adalah seorang rakan atau ahli keluarga dalam kesusahan. AI sangat serba guna! Tetapi kerana sesetengah orang lebih suka tidak ditipu, mari kita bincangkan sedikit mengenai perkara yang perlu dijaga.
Beberapa tahun ini telah menyaksikan peningkatan yang besar bukan sahaja dalam kualiti media yang dihasilkan, dari teks ke audio hingga gambar dan video, tetapi juga dalam bagaimana media tersebut dapat dibuat dengan murah dan mudah. Jenis alat yang membantu seorang artis konsep untuk menghasilkan mons terfantasi atau kapal angkasa, atau membenarkan penutur bukan asli untuk memperbaiki bahasa Inggeris perniagaan mereka, juga boleh digunakan secara jahat.
Penclonan suara ahli keluarga dan rakan secara AI
Suara sintetik telah wujud selama beberapa dekad, tetapi baru dalam tahun-tahun terakhir ini kemajuan dalam teknologi telah membolehkan suara baru dihasilkan dari hanya beberapa saat audio. Ini bermakna sesiapa pun yang suaranya pernah disiarkan secara awam - contohnya dalam laporan berita, video YouTube atau media sosial - berisiko menghadapi suara mereka diclon.
Penipu boleh dan telah menggunakan teknologi ini untuk menghasilkan versi palsu yang meyakinkan mengenai orang yang dicintai atau rakan. Mereka boleh diarahkan untuk mengatakan apa sahaja, tetapi dalam perkhidmatan penipuan, mereka kemungkinan besar akan menghasilkan klip suara meminta bantuan.
Sebagai contoh, seorang ibu bapa mungkin menerima suara daripada nombor yang tidak dikenali yang kedengaran seperti anak lelaki mereka, mengatakan bagaimana barangan mereka dicuri semasa melancong, seseorang membenarkan mereka menggunakan telefon mereka, dan bolehkah Ibu atau Bapa menghantar sedikit wang ke alamat ini, penerima Venmo, perniagaan, dan lain-lain. Seseorang boleh dengan mudah membayangkan variasi dengan masalah kereta ("mereka tidak akan melepaskan kereta saya sehingga seseorang membayar mereka"), masalah perubatan ("rawatan ini tidak dituntut oleh insurans"), dan sebagainya.
Jenis penipuan ini telah dilakukan menggunakan suara Presiden Biden! Mereka menangkap mereka yang di belakangnya, tetapi penipu masa depan akan lebih berhati-hati.
Bagaimanakah anda boleh melawan penclonan suara?
Pertama, jangan terlalu berusaha untuk mengenal pasti suara palsu. Mereka semakin baik setiap hari, dan terdapat banyak cara untuk menyamar masalah kualiti mana-mana. Malah pakar pun tertipu!
Barang apa pun yang datang daripada nombor tidak dikenali, alamat e-mel, atau akaun haruslah dianggap sebagai yang mencurigakan. Jika seseorang mengatakan mereka adalah rakan atau ahli keluarga anda, terus hubungi orang tersebut seperti yang anda lakukan biasanya. Mereka mungkin akan memberitahu anda bahawa mereka baik-baik sahaja dan bahawa ianya (seperti yang anda sangka) satu penipuan.
Penipu cenderung tidak mengikut hingga jika mereka diabaikan - manakala ahli keluarga mungkin akan melakukannya. Adalah baik untuk meninggalkan mesej yang mencurigakan untuk dipbaca semasa anda mempertimbangkan.
Pancingan peribadi dan spam yang disesuaikan melalui e-mel dan mesej
Kita semua menerima spam sekali sekala, tetapi AI yang menghasilkan teks membuatnya mungkin untuk menghantar e-mel pancingan massal yang disesuaikan untuk setiap individu. Dengan pelanggaran data berlaku secara berkala, banyak data peribadi anda di luar sana.
Satu perkara untuk menerima e-mel scam \"Klik di sini untuk melihat invois anda!\" dengan lampiran yang menakutkan secara jelas. Tetapi dengan sedikit konteks, ia tiba-tiba menjadi agak meyakinkan, menggunakan lokasi terkini, pembelian dan kebiasaan untuk menjadikannya kelihatan seperti orang sebenar atau masalah sebenar. Dengan beberapa fakta peribadi, model bahasa boleh menyesuaikan e-mel generik ini kepada ribuan penerima dalam masa beberapa saat.
Jadi apa yang sebelum ini \"Tuan Pelanggan, sila temukan invois anda dilampirkan\" menjadi sesuatu seperti \"Hi Doris! Saya dari pasukan promosi Etsy. Item yang awak lihat baru-baru ini kini diskaun 50%! Dan penghantaran ke alamat anda di Bellingham adalah percuma jika anda menggunakan pautan ini untuk menuntut diskaun.\" Sebuah contoh yang mudah, tetapi masih. Dengan nama sebenar, tabiat membeli (mudah didapati), lokasi umum (sama) dan sebagainya, tiba-tiba mesej itu menjadi kurang jelas.
Akhirnya, ini masih spam. Tetapi jenis spam yang disesuaikan ini sebelum ini perlu dilakukan oleh orang yang dibayar dengan sia-sia di ladang konten di negara-negara asing. Sekarang ia boleh dilakukan secara besar-besaran oleh sebuah LLM dengan kemahiran prosa yang lebih baik daripada banyak penulis profesional!
Bagaimanakah anda boleh melawan spam e-mel?
Seperti spam tradisional, kewaspadaan adalah senjata terbaik anda. Tetapi jangan berharap boleh membezakan antara teks yang dihasilkan dari manusia dan teks yang dihasilkan oleh AI di alam liar. Hanya sedikit yang boleh melakukannya, dan pasti bukan (walaupun tuntutan beberapa syarikat dan perkhidmatan) model AI lain.
Walau bagaimanapun, walau teks itu mungkin disempurnakan, jenis penipuan ini masih mempunyai cabaran asas untuk mendapatkan anda membuka lampiran atau pautan berbahaya. Seperti biasa, kecuali anda 100% yakin akan keautentikan dan identiti penghantar, jangan klik atau buka apa-apa. Jika anda sedikit ragu-ragu - dan ini adalah rasa yang baik untuk ditanamkan - jangan klik, dan jika anda mempunyai seseorang yang berpengetahuan untuk dihantar semula untuk mendapatkan pandangan kedua, lakukan itu.
Murtadai AI yang dihasilkan dan ugutan mengenai pemerasan
Mungkin bentuk penipuan AI yang paling menakutkan adalah kemungkinan pemerasan menggunakan imej deepfake anda atau orang yang anda sayangi. Anda boleh mengucapkan terima kasih kepada dunia berkembang pesat model gambar terbuka untuk prospek futuristik dan menakutkan ini! Orang yang berminat dalam aspek tertentu pembangunan imej canggih telah mencipta aliran kerja tidak hanya untuk merender badan telanjang, tetapi melekatkan mereka kepada mana-mana wajah yang mereka boleh dapatkan gambar. Saya tidak perlu mengulas tentang bagaimana ianya sudah digunakan.
Tetapi satu kesan tidak diingini adalah sambungan penipuan biasa yang sering disebut sebagai \"pornografi balas dendam,\" tetapi lebih tepat digambarkan sebagai pengedaran imej intim tanpa persetujuan (walaupun seperti \"deepfake,\" mungkin sukar untuk menggantikan istilah asal). Apabila imej peribadi seseorang disiarkan sama ada melalui penjenayah atau bekas kekasih yang dendam, mereka boleh digunakan sebagai pemerasan oleh pihak ketiga yang mengancam untuk menerbitkannya secara meluas kecuali jumlah tertentu dibayar.
AI meningkatkan penipuan ini dengan membuatnya supaya imej intim sebenar tidak perlu wujud pada permulaan! Wajah sesiapa pun boleh ditambahkan ke badan yang dihasilkan secara AI, dan walaupun hasilnya tidak selalu meyakinkan, ia mungkin cukup untuk menipu anda atau orang lain jika ia dipesolek, beresolusi rendah atau secara tidak langsung disamarkan. Dan itulah yang diperlukan untuk menakutkan seseorang untuk membayar untuk menjaga rahsia ini - walaupun, seperti kebanyakan penipuan pemerasan, pembayaran pertama tidak mungkin menjadi yang terakhir.
Bagaimana boleh anda melawan deepfake yang dihasilkan oleh AI?
Malangnya, dunia yang kita menuju adalah satu tempat di mana imej telanjang palsu hampir siapa sahaja akan tersedia atas permintaan. Ia menakutkan dan aneh dan menjijikkan, tetapi sayangnya kucing keluar dari beg di sini.
Tiada sesiapa yang gembira dengan situasi ini kecuali pihak yang memburuk. Tetapi terdapat beberapa perkara yang baik bagi semua mangsa potensi kami. Ia mungkin memberi sedikit keselesaan, tetapi imej ini bukan benar-benar anda, dan ia tidak memerlukan gambar telanjang sebenar untuk membuktikannya. Model imej ini mungkin menghasilkan badan yang realistik dalam beberapa aspek, tetapi seperti AI generatif lain, mereka hanya tahu apa yang mereka telah latih. Jadi imej palsu ini akan kurang dalil apa-apa ciri yang membezakan, misalnya, dan kemungkinan besar akan kelihatan jelas salah di lain waktu.
Dan walaupun ancamannya mungkin tidak pernah hilang sepenuhnya, pihak mangsa semakin banyak saluran untuk merayu, yang boleh secara sah memaksa hos imej untuk menurunkan gambar, atau melarang penipu daripada tapak di mana mereka menyiarkan. Seiring masalah ini berkembang, begitu juga kaedah undang-undang dan peribadi untuk melawannya.
TechCrunch bukan ahli undang-undang! Tetapi jika anda mangsa perkara ini, beritahu polis. Ia bukan sahaja penipuan tetapi serangan, dan walaupun anda tidak boleh menjangkakan polis melakukan kerja detektif internet yang dalam diperlukan untuk mengesan seseorang, kes-kes ini kadang-kadang mendapat penyelesaian, atau penipu dikejutkan oleh permintaan yang dihantar ke ISP atau hos forum mereka.
