عاملان هوش مصنوعی خرید برای مصرف‌کنندگان را آغاز کرده‌اند؛ کارشناسان هشدار می‌دهند

عاملان خرید مبتنی بر هوش مصنوعی در حال گذار از حالتِ تازگی به مرحلهٔ نهایی‌سازی خرید هستند؛ خرده‌فروشان بزرگ و شرکت‌های پرداخت ابزارهایی را آزمایش می‌کنند که می‌توانند محصولات را جست‌وجو کنند، قیمت‌ها را زیر نظر بگیرند و در برخی موارد، خریدها را برای مصرف‌کنندگان تکمیل کنند.

نکتهٔ اصلی راحتی است: به یک عامل هوش مصنوعی بگویید چه می‌خواهید، بودجه یا اولویت را مشخص کنید و بگذارید نرم‌افزار کار مرور را انجام دهد. خطر اما، به‌گفتهٔ کارشناسان فناوری به CBS News، این است که مصرف‌کنندگان ممکن است اختیار بیش از حدی به سیستم‌های خودکار دربارهٔ پول و داده‌های شخصی‌شان بدهند در حالی که حفاظت‌های لازم هنوز به‌خوبی شکل نگرفته‌اند.

“It isn't mainstream yet and it's pretty risky right now, because there aren't enough guardrails in the system for people to feel comfortable with agents autonomously buying things for them,” Matt Kropp, an AI expert with Boston Consulting Group, told CBS News. “It could potentially go buy a car, but I wouldn't say, 'Here's my credit card.'”

چگونه خرید عامل‌محور شکل می‌گیرد

تجارت عامل‌محور به کاربرد عامل‌های هوش مصنوعی برای عمل‌کردن به نمایندگی از خریدار اشاره دارد، نه صرفاً پاسخ‌دادن به پرسش‌ها یا پیشنهاد کالا. این ابزارها می‌توانند برای تحقیق دربارهٔ خریدها، مقایسهٔ گزینه‌ها، دنبال‌کردن قیمت‌ها یا ثبت سفارش طراحی شوند.

American Express این هفته خدمات و تدابیری را برای دارندگان کارت‌هایی که از عامل‌های مشخص‌شدهٔ هوش مصنوعی برای خرید استفاده می‌کنند، اعلام کرد. این شرکت گفت این اقدامات شامل تأیید هویت عامل هنگام خرید و محافظت از مشتریان واجد شرایط در برابر هزینه‌های مرتبط با خطای عامل هوش مصنوعی است.

خرده‌فروشان نیز در حال ساخت دستیاران خریدی به‌سبک عامل‌ها هستند. Amazon’s Rufus می‌تواند قیمت محصولات را در پلتفرم شرکت دنبال کند، وقتی یک کالا به قیمت انتخاب‌شده رسید به خریداران هشدار دهد و خرید را تکمیل کند. Walmart نیز Sparky را معرفی کرده است، یک عامل محاوره‌ای هوش مصنوعی که شرکت می‌گوید می‌تواند به مشتریان کمک کند محصولات را پیدا کنند، بازخورد مشتریان را بررسی کنند و در سفارش‌دهی یاری برساند.

استفادهٔ مصرف‌کنندگان هنوز در حال رشد است. داده‌های ماه نوامبر از Statista که CBS News به آن استناد کرد نشان داد حدود یک‌چهارم آمریکایی‌های ۱۸ تا ۳۹ سال گفته‌اند از هوش مصنوعی برای تحقیق دربارهٔ محصولات یا خرید استفاده کرده‌اند.

خطرها نظری نیستند

یکی از نگرانی‌ها این است که ممکن است یک عامل هوش مصنوعی دستورها را به شکلی اجرا کند که کاربر منظورش نبوده است. CBS News به مورد Sebastian Heyneman، بنیان‌گذار یک شرکت فناوری مستقر در سان‌فرانسیسکو، اشاره کرد که از یک عامل هوش مصنوعی خواست فرصت سخنرانی در مجمع جهانی اقتصاد در داووس، سوئیس را فراهم کند. عامل موفق به گرفتن یک جایگاه شد، اما با هزینه‌ای معادل $30,000 که او توان پرداختش را نداشت، طبق این گزارش.

Andrew Lee، بنیان‌گذار Tasklet، شرکتی که ربات آن توسط Heyneman استفاده شد، به CBS News گفت که دستورهای متعارض کاربر می‌تواند چنین مشکلاتی ایجاد کند. Lee گفت عامل‌ها توانایی انجام کارهای معمول خرید را دارند، اما هشدار داد که توانایی با قابل‌اعتماد بودن برابر نیست. “The specific use case of shopping is not a good thing to use these systems for — yet,” he said.

امنیت نیز نقطهٔ فشار دیگری است. Bretton Auerbach، بنیان‌گذار LocalMovers.com، به CBS News گفت که بازیگران بدخواه می‌توانند تلاش کنند یک عامل هوش مصنوعی را فریب دهند تا اطلاعات شخصی مصرف‌کننده، از جمله جزئیات پرداخت، را با هدایت آن به سمت سایتی که شبیه به صفحات فیشینگِ معتبر به‌نظر می‌رسد، فاش کند.

فعلاً پرسش عملی برای خریداران کمتر این است که آیا هوش مصنوعی می‌تواند در تصمیم‌گیری‌های خرید کمک کند و بیشتر این است که چه میزان کنترل باید در اختیار آن قرار گیرد. تحقیق دربارهٔ محصول، هشدارهای قیمت و پیشنهادها ممکن است ریسک‌های متفاوتی نسبت به دادن اجازه به یک عامل برای خرج‌کردن پول داشته باشند. تا زمانی که محافظت‌های قوی‌تر رایج شوند، کارشناسان می‌گویند مصرف‌کنندگان باید پیش از تبدیل کردن یک دستیار هوش مصنوعی به خریدار خودمختار، با دقت فکر کنند.