اینستاگرام جهت مقابله با نظرات توهین آمیز و ناشایستی که در بین کاربران رد و بدل می شود، ویژگی های جدیدی را که با استفاده از هوش مصنوعی عمل میکنند را راه اندازی کرده است.

نظرات توهین آمیز و قلدری آنلاین، یک مسئله پیچیده است. در چند سال گذشته اینستاگرام در تلاش است تا با استفاده از هوش مصنوعی، قلدری و سایر محتویات آزاردهنده در نظرات، تصاویر و ویدیوها را تشخیص دهد. این موضوع، از اهمیت خاصی برای نوجوانان برخوردار می باشد، چراکه آن ها نسبت به سایر کاربران آسیب پذیرتر هستند. تیم اینستاگرام در این راستا دو ویژگی جدید را معرفی کرده است.

اولین ویژگی، از هوش مصنوعی جهت تشخیص خودکار نوشته های آزاردهنده و نظرات توهین آمیز بهره می برد. پس از نوشتن چنین نظرd توسط یک کاربر، اپلیکیشن به طور خودکار از وی می خواهد تا درباره ارسال آن، تجدیدنظر کند. به این ترتیب، به کاربر فرصت داده می شود تا به اصلاح نوشته خود و یا آن را حذف اقدام کند. این ویژگی، کاربر را ترغیب می کند تا در نوشته های خود کمتر از کلمات اهانت آمیز و خشن استفاده کند.

با این حال، اگر به دنبال یک گزینه کارآمدتر هستید، می توانید از ویژگی دیگری به نام Restrict استفاده کنید. در صورت اعمال این ویژگی روی یک کاربر، تنها آن کاربر خاص می تواند نظرات ارسال شده توسط خودش را مشاهده نماید. البته کاربر اهانت کننده به هیچ وجه نمی تواند از توقیف شدن خود اطلاع یابد. به این ترتیب هیچ کس امکان مشاهده نظرات توهین آمویز وی را ندارد.

به این روش، Shadowbanning  میگویند که از انجام اقدامات متقابل توسط کاربر توقیف شده جلوگیری می کند. با استفاده از ویژگی Restrict، این دسته از کاربران دیگر قادر نیستند تا از وضعیت آنلاین بودن شما و یا خواندن پیام ها مطلع شوند. ویژگی اول در حال حاضر در اینستاگرام حضور دارد و ویژگی Restrict نیز به زودی به این اپلیکیشن اضافه خواهد شد.