We are searching data for your request:
Upon completion, a link will appear to access the found materials.
Anehnya, sebuah tim di Microsoft telah meluncurkan karya pada bot AI, yang disebut DeepCom, yang dapat digunakan untuk menghasilkan komentar palsu tentang artikel berita.
Pasukan itu mengatakan bahawa komen palsu ini dapat membuat pertunangan untuk laman web dan kedai berita baru, yang pada dasarnya mendorong penggunaan akaun palsu untuk menjana hubungan nyata dengan perbincangan palsu.
BERKAITAN: ALAT AI BARU BOLEH MEMBANTU KAMI MEMATUHI BERITA FAKTA TERTULIS
Adakah kita memerlukan ini?
Jawapan ringkas. Tidak.
Internet sudah dipenuhi dengan akaun dan bot palsu, digunakan untuk mencari dan memberi maklumat yang salah kepada masyarakat umum.
Pertanyaan yang dikemukakan oleh pasukan penyelidik, dari Microsoft dan Beihang University di China, adalah: apa salahnya menggunakan komen palsu untuk merangsang dan mendorong perbincangan dalam pembaca berita sebenar?
Para penyelidik berpendapat bahawa pembaca senang menghantar komen di bawah artikel berita dan berkongsi pendapat mereka. Bagi penerbit, ini meningkatkan penglibatan, jadi mengapa tidak memberikan semua dorongan bertenaga AI?
"Sistem sedemikian dapat memungkinkan perkhidmatan memberi komen untuk laman web berita dari awal yang sejuk, meningkatkan pengalaman membaca untuk artikel berita yang kurang dikomentari, dan memperkaya senarai kemahiran aplikasi kecerdasan buatan lain, seperti chatbots," kata makalah tersebut.
Sebuah makalah oleh penyelidik Beijing menyajikan teknik pembelajaran mesin baru yang penggunaan utamanya adalah trolling dan disinformasi. Telah diterima untuk diterbitkan di EMLNP, salah satu daripada 3 tempat teratas untuk penyelidikan Pemprosesan Bahasa Asli. Cool Cool Coolhttps: //t.co/ZOcrhjKiEcpic.twitter.com/Y8U5AjENrh
- Arvind Narayanan (@random_walker) 30 September 2019
Puncanya adalah bahawa makalah baru, yang dikeluarkan di arXiv, tidak menyebutkan tentang kemungkinan penggunaan berbahaya, atau bahaya yang dapat ditimbulkan oleh teknologi dengan membantu menyebarkan berita palsu. Beberapa pengkritik telah menyuarakan kebimbangan mereka.
Rangkaian neural membaca berita
Sebagai Daftar melaporkan, DeepCom secara serentak menggunakan dua rangkaian saraf: rangkaian membaca dan rangkaian penghasil.
Semua perkataan dalam artikel berita dikodkan sebagai vektor untuk dianalisis oleh AI. Rangkaian membaca mengambil apa yang dikira adalah aspek paling penting dalam artikel (seseorang, peristiwa, atau topik), sebelum rangkaian penjana membuat komen berdasarkan itu.
Para penyelidik melatih DeepCom pada set data Cina yang terdiri daripada berjuta-juta komen manusia yang disiarkan pada artikel berita dalam talian, serta kumpulan data bahasa Inggeris dari artikel di Yahoo! Berita.
Contoh di atas menunjukkan bahagian penting a Yahoo! artikel diserlahkan dengan warna merah (rangkaian membaca), dan apa yang bot pilih untuk dikomentari dengan warna biru (rangkaian penghasil).
Bot kontroversi lain
Ini bukan sikat pertama Microsoft dengan kontroversi bot. Bot AI mereka "Tay" terkenal telah dihapus tiga tahun yang lalu, setelah dengan cepat belajar menge-tweet pesan rasis, homofobik, dan anti-feminis setelah dilatih di pangkalan data tweet yang luas.
Tay terkenal terpaksa diturunkan setelah hanya 16 jam kerana luahan tweet kebencian yang tidak diminta. Nampaknya melatih AI pada pengulas dalam talian - orang yang sering kehilangan semua penghambatan berkat nama mereka yang tidak disebutkan namanya - bukan idea yang baik.
Nampaknya lebih banyak pekerjaan diperlukan sebelum DeepCom dapat benar-benar menghasut pertunangan atau membuat komen yang dapat digunakan untuk mengganggu masyarakat secara besar-besaran. Buat masa ini, komen yang dihasilkan oleh bot AI pendek dan ringkas.
Walau bagaimanapun, penyelidikan ini telah diterima oleh EMNLP-IJCNLP, sebuah persidangan pemprosesan bahasa semula jadi antarabangsa, yang akan diadakan di Hong Kong bulan depan (3-7 November).
Sementara itu, para penyelidik MIT telah membuat alat AI, yang disebut Giant Language Model Test Room (GLTR), yang dapat mengesan teks yang ditulis AI. Mereka mungkin perlu memulakan permainan mereka.
It is a simply magnificent idea
Anda salah. Saya boleh mempertahankan kedudukan. Tulis kepada saya di PM, kami akan berbincang.
ayat yang sangat bagus
Sekarang semuanya jelas, terima kasih atas penjelasannya.
Idea ini bagus, saya bersetuju dengan anda.
What necessary words ... Great, a great idea
Thank you for choosing assistance on this matter.
Anda tidak betul. Saya pasti. Mari kita bincangkan ini. Email saya di PM, kita bincang.
I congratulate, you were visited with an excellent idea
Agree, very useful thought