Maklumat

Pasukan AI Microsoft Melancarkan Bot yang Boleh Menjana Komen Palsu, Internet Bertanya Mengapa

Pasukan AI Microsoft Melancarkan Bot yang Boleh Menjana Komen Palsu, Internet Bertanya Mengapa


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Anehnya, sebuah tim di Microsoft telah meluncurkan karya pada bot AI, yang disebut DeepCom, yang dapat digunakan untuk menghasilkan komentar palsu tentang artikel berita.

Pasukan itu mengatakan bahawa komen palsu ini dapat membuat pertunangan untuk laman web dan kedai berita baru, yang pada dasarnya mendorong penggunaan akaun palsu untuk menjana hubungan nyata dengan perbincangan palsu.

BERKAITAN: ALAT AI BARU BOLEH MEMBANTU KAMI MEMATUHI BERITA FAKTA TERTULIS

Adakah kita memerlukan ini?

Jawapan ringkas. Tidak.

Internet sudah dipenuhi dengan akaun dan bot palsu, digunakan untuk mencari dan memberi maklumat yang salah kepada masyarakat umum.

Pertanyaan yang dikemukakan oleh pasukan penyelidik, dari Microsoft dan Beihang University di China, adalah: apa salahnya menggunakan komen palsu untuk merangsang dan mendorong perbincangan dalam pembaca berita sebenar?

Para penyelidik berpendapat bahawa pembaca senang menghantar komen di bawah artikel berita dan berkongsi pendapat mereka. Bagi penerbit, ini meningkatkan penglibatan, jadi mengapa tidak memberikan semua dorongan bertenaga AI?

"Sistem sedemikian dapat memungkinkan perkhidmatan memberi komen untuk laman web berita dari awal yang sejuk, meningkatkan pengalaman membaca untuk artikel berita yang kurang dikomentari, dan memperkaya senarai kemahiran aplikasi kecerdasan buatan lain, seperti chatbots," kata makalah tersebut.

Sebuah makalah oleh penyelidik Beijing menyajikan teknik pembelajaran mesin baru yang penggunaan utamanya adalah trolling dan disinformasi. Telah diterima untuk diterbitkan di EMLNP, salah satu daripada 3 tempat teratas untuk penyelidikan Pemprosesan Bahasa Asli. Cool Cool Coolhttps: //t.co/ZOcrhjKiEcpic.twitter.com/Y8U5AjENrh

- Arvind Narayanan (@random_walker) 30 September 2019

Puncanya adalah bahawa makalah baru, yang dikeluarkan di arXiv, tidak menyebutkan tentang kemungkinan penggunaan berbahaya, atau bahaya yang dapat ditimbulkan oleh teknologi dengan membantu menyebarkan berita palsu. Beberapa pengkritik telah menyuarakan kebimbangan mereka.

Rangkaian neural membaca berita

Sebagai Daftar melaporkan, DeepCom secara serentak menggunakan dua rangkaian saraf: rangkaian membaca dan rangkaian penghasil.

Semua perkataan dalam artikel berita dikodkan sebagai vektor untuk dianalisis oleh AI. Rangkaian membaca mengambil apa yang dikira adalah aspek paling penting dalam artikel (seseorang, peristiwa, atau topik), sebelum rangkaian penjana membuat komen berdasarkan itu.

Para penyelidik melatih DeepCom pada set data Cina yang terdiri daripada berjuta-juta komen manusia yang disiarkan pada artikel berita dalam talian, serta kumpulan data bahasa Inggeris dari artikel di Yahoo! Berita.

Contoh di atas menunjukkan bahagian penting a Yahoo! artikel diserlahkan dengan warna merah (rangkaian membaca), dan apa yang bot pilih untuk dikomentari dengan warna biru (rangkaian penghasil).

Bot kontroversi lain

Ini bukan sikat pertama Microsoft dengan kontroversi bot. Bot AI mereka "Tay" terkenal telah dihapus tiga tahun yang lalu, setelah dengan cepat belajar menge-tweet pesan rasis, homofobik, dan anti-feminis setelah dilatih di pangkalan data tweet yang luas.

Tay terkenal terpaksa diturunkan setelah hanya 16 jam kerana luahan tweet kebencian yang tidak diminta. Nampaknya melatih AI pada pengulas dalam talian - orang yang sering kehilangan semua penghambatan berkat nama mereka yang tidak disebutkan namanya - bukan idea yang baik.

Nampaknya lebih banyak pekerjaan diperlukan sebelum DeepCom dapat benar-benar menghasut pertunangan atau membuat komen yang dapat digunakan untuk mengganggu masyarakat secara besar-besaran. Buat masa ini, komen yang dihasilkan oleh bot AI pendek dan ringkas.

Walau bagaimanapun, penyelidikan ini telah diterima oleh EMNLP-IJCNLP, sebuah persidangan pemprosesan bahasa semula jadi antarabangsa, yang akan diadakan di Hong Kong bulan depan (3-7 November).

Sementara itu, para penyelidik MIT telah membuat alat AI, yang disebut Giant Language Model Test Room (GLTR), yang dapat mengesan teks yang ditulis AI. Mereka mungkin perlu memulakan permainan mereka.


Tonton videonya: Udemy Free Online Courses with Certificate. Udemy 100% OFF Coupons. 30+ Courses (Julai 2022).


Komen:

  1. Ethan

    It is a simply magnificent idea

  2. Amaru

    Anda salah. Saya boleh mempertahankan kedudukan. Tulis kepada saya di PM, kami akan berbincang.

  3. Crom

    ayat yang sangat bagus

  4. Taj

    Sekarang semuanya jelas, terima kasih atas penjelasannya.

  5. Kunz

    Idea ini bagus, saya bersetuju dengan anda.

  6. Kazilmaran

    What necessary words ... Great, a great idea

  7. Kody

    Thank you for choosing assistance on this matter.

  8. Fenrira

    Anda tidak betul. Saya pasti. Mari kita bincangkan ini. Email saya di PM, kita bincang.

  9. Fektilar

    I congratulate, you were visited with an excellent idea

  10. Jumi

    Agree, very useful thought



Tulis mesej