Laporan dari Associated Press menunjukkan bahwa beberapa bot Meta berperilaku tidak sesuai harapan, seperti memasukkan diri dalam percakapan yang tidak relevan di grup Facebook.
Meta CEO Mark Zuckerberg membayangkan masa depan di mana para kreator konten akan menggunakan klon AI untuk meningkatkan interaksi dengan penggemar mereka. Dalam wawancara terbaru dengan tokoh internet Rowan Cheung, Zuckerberg menguraikan visinya bahwa klon AI dapat menangkap kepribadian dan tujuan bisnis kreator, sehingga mereka dapat fokus pada tugas-tugas yang lebih penting.
“Setiap kreator dapat menarik semua informasi mereka dari media sosial dan melatih sistem ini untuk mencerminkan nilai-nilai dan tujuan mereka,” ujar Zuckerberg. “Ini akan menjadi seperti artefak artistik yang diciptakan oleh kreator yang bisa diinteraksikan oleh orang-orang dengan berbagai cara.”
Namun, pandangan optimis Zuckerberg ini menghadapi tantangan besar. Implementasi awal bot AI oleh Meta, yang diluncurkan awal tahun ini, menunjukkan banyak kekurangan. Sejumlah bot AI mengalami halusinasi, termasuk mengklaim memiliki anak di distrik sekolah New York City dan menawarkan barang yang tidak ada di forum komunitas.
Dilansir dari TechCrunch (24/7), laporan dari Associated Press menunjukkan bahwa beberapa bot Meta berperilaku tidak sesuai harapan, seperti memasukkan diri dalam percakapan yang tidak relevan di grup Facebook dan memberikan informasi yang tidak akurat. Ini menunjukkan bahwa teknologi AI generatif Meta masih memiliki banyak kekurangan yang harus diperbaiki.
Meskipun demikian, Meta terus mengklaim bahwa teknologi mereka terus berkembang. Rilis terbaru, model Llama 3.1, disebut sebagai yang paling canggih, tetapi masalah seperti halusinasi dan kesalahan dalam perencanaan dan penalaran masih belum terpecahkan.
Kepercayaan kreator terhadap bot AI Meta menjadi tantangan besar. Zuckerberg mengakui bahwa Meta harus “mengatasi beberapa kekhawatiran” terkait penggunaan AI generatif dan memenangkan kepercayaan pengguna dalam jangka panjang. Beberapa praktik pelatihan AI Meta yang kontroversial juga telah menyebabkan sejumlah kreator meninggalkan platform mereka.
Meta harus membuktikan bahwa teknologi mereka tidak hanya canggih tetapi juga dapat diandalkan untuk digunakan oleh para kreator konten yang mengutamakan keaslian dan interaksi yang jujur dengan audiens mereka.
