開發商 Roblox Corporation 最近推出了一項新的面部掃描功能，作為在其遊戲創作平台上加強兒童安全保護的一種方式， 羅布樂思。首席執行官 David Baszucki 對這一舉措非常興奮，他在有關年齡限制技術的新播客節目中給出了一些相當激烈且值得懷疑的答案。
Baszucki 與《紐約時報》記者 Casey Newton 和 Kevin Roose 一起觀看了他們的硬分叉播客的一集。發佈於11月21日，三人從事 廣泛的談話 開始於 面部掃描功能，轉向對數據的誤用，並在使用人工智能進行審核方面的分歧達到頂峰。 Newtown 首先詢問了 Roblox 上的掠奪者問題，Baszucki 表示這是一個好與壞的困境。
“我們認為這不一定只是一個問題，而且也是一個機會，”他說。 “我們如何讓年輕人一起建設、交流和閒逛？我們如何同時建設交流的未來？所以，我認為，我們從一開始就一直在以一種很好的方式致力於這個問題。當我們——這大約是 18 或 19 年前——當我們第一次推出公司時，我們只有四個人坐在一個房間裡，我們實際上是主持人，就像我們一直在輪換一樣。”
“有了人工智能，這些過濾器變得越來越好，”巴斯祖基說。 “The state of where we are now is primarily getting into the blocking of adversarial attempts to broach the filter, and adversarial attempts to try to share PII [personally identifying information], which we’re getting better and better at as well. On the age estimation, it’s just–I would say–recently come of age to the point where we would complement it. But I would say our strategy is always [to] complement with whatever technology is out there to put that together.”
不久之後，三人就互相打斷對方，插入陳述和問題以佔上風。 Baszucki 在最近的訴訟中“斷然拒絕”了掠奪者利用 Roblox 尋找孩子的說法。他表示，與其他在線社交平台相比，該平台在創新方面做了“令人難以置信的工作”，並重申該公司在保護孩子在遊戲中聊天的能力方面“不斷進步”。
“讓人們能夠溝通有巨大的好處，我們認為我們看到了這些好處，”巴斯祖基解釋道。 “有很多孩子在 Roblox 上找到了自己的踪跡。實際上，有很多孩子感到孤獨或孤立時——我不會用它作為藉口或其他什麼——但我接到很多著名家長的電話，他們說，‘聽著，如果不是在 Roblox 這樣的平台上找到一個社區來保持聯繫，我的孩子就會死了。’我還想說，我們確實將設計視為一項巨大的責任，而不是為那些老練的父母設計，他們進去後會說：“看，我將關閉你可以與誰聊天以及所有這些。 ”我們必須為所有父母進行設計並深思熟慮。但我們確實相信我們在堆棧上下都擁有非常出色的技術。我們認為這是構建此類體驗的一部分。你知道，如果你進入遊戲領域，我認為支持溝通是很常見的。我不會列出任何其他遊戲。通常，我想說的是，我們的創新水平、責任水平、過濾、圖像共享以及所有這些方面都遠遠超出了我們的水平。”
興登堡研究中心 2024 年 10 月的調查結果 該公司涉嫌以利潤為名無視兒童安全。 He deflected, instead opting to focus on the fact that the activist fund “went out of business for some reason” and asked the hosts if they’ve researched that information themselves.隨後他回應稱，人工智能正在讓一切變得更好。
巴斯祖基說：“這真的很有趣，因為我認為我們正在進入一種越來越好的局面。” “但是你會問一個從手工製造汽車的超手工勞動轉變為裝配線的人的同樣情況嗎？裝配線可能會好得多，同時沒有那麼多人。所以，我認為他們指的是越來越多地轉向人工智能。可以說，是讓人工智能係統審查每張圖像、每一段文本，所有這些，還是繼續手動完成這些工作更好？所以我認為這是一個用詞不當。而且我我想，如果你採訪我們安全團隊或安全系統中的任何人，這只是讓我們的系統變得更好的一部分。”
正是在這一點上，Baszucki 的情緒變得有點慌張——儘管並不像他在多個場合所說的那樣“沮喪”——因為他顯然向牛頓和羅斯擊掌，因為他“贊同”公司使用人工智能工具進行內容審核的決定，並“支持我們的 Roblox 決策矩陣”。
“這是一次秘密採訪，實際上你喜歡我們所做的一切，並且你來這裡是為了秘密支持它嗎？”他詢問了主持人，後來補充說他“很高興能發言”。
“我以為我們會談論行業中有趣的事情以及所有這些，”巴斯祖基說。 “所以我並不沮喪，我只是想知道我和你們在一起有多少有趣的時間，以及我們與這種超級專注相比有多少有趣的時間。但我很高興談論你們想要的任何東西。”
Baszucki 開始談論的一個有趣的事情是 Roose 提出的假設的“Roblox 內部的預測市場”。盧斯想，這是一個“糟糕的主意”，他想知道公司是否會考慮讓孩子們用 Robux 遊戲內貨幣下注。 ”巴斯祖基稱這是一個他喜歡的“絕妙主意”。
“我實際上認為，如果能夠以合法的教育方式來完成，這是一個絕妙的主意，”他說。 “所以，想像一下，沒有免費的 Robux，沒有免費的獎品，只有一款名為“Dress to Impress Predictor”的遊戲，它不像試圖獲得孩子們的錢或類似的東西。我會是它的忠實粉絲。”
2024 年 6 月 彭博社調查 that revealed the platform is rampant with predators.國家喜歡 佛羅里達 和 德克薩斯州 已起訴立法者所說的公司 保護兒童做得不夠 免受兒童剝削和誘騙。
無論是否是 Roblox，兒童掠奪者的問題已經開始達到白熱化的程度。據歐洲執法機構歐洲刑警組織稱，歐洲社會的犯罪率正在急劇上升。 將兒童武器化的犯罪網絡 實施暴力犯罪。
