【本報坎培拉訊】在人權觀察組織在人工智能AI資料集中識別出澳洲兒童的照片，而兒童和他們的監護人被發現對此並不知曉或並未表達同意後，兒童安全倡導者呼籲加強網路隱私保護。
人權觀察組織分析了LAION-5B資料集中58.5億張圖像和說明文字的一小部分，識別出190張來自澳洲兒童的圖像，其中包括出生後不久拍攝的嬰兒到為讀書周盛裝打扮的學生。這些圖片用於訓練流行人工智能工具（包括Midjourney和Stable Diffusion）。
這些數據是從各種在線來源中獲取的，其中包括澳洲嬰兒和幼兒照片的鏈接，其中一些可以通過姓名或其就讀的幼兒園來進行識別。
兒童安全和人工智能專家表示，這項發現凸顯了迫切需要修改法律以保護兒童隱私，並加強教育以確保生成式人工智能工具不會被濫用。
人權觀察兒童權利和技術研究員Hye Jung Han說，這些照片中的一些並未在網絡上公開，而是從學校網站或不公開的YouTube影片中提取的。這項發現應該引起家長和政策制定者的關注，因為這些圖像可能被用來製作深度偽造圖像，使兒童面臨危險，孩子不應該生活在他們的照片可能被盜並被用作針對他們的武器的恐懼之中，政府應該緊急通過法律來保護兒童資料免遭人工智能驅動的濫用。
管理該資料集的德國非營利公司LAION表示，機構已從資料集中刪除了已識別的圖像。
不過，Hye Jung Han說，人工智能模型不會忘記他們訓練過的資料。
Alannah and Madeline基金會行政總裁戴維斯稱這一發現「令人恐懼」，也強調了根據澳洲法律加強對兒童隱私保護的必要性。
戴維斯說，兒童有權在他們的生活、學習和玩耍的地方獲得安全，包括在網絡上的安全，為了預防和解決未來此類違法行為，迫切需要在立法、監管和行業實踐方面做出改變。
斯威本大學（Swinburne University） 生物倫理學家肯德爾說，無論這些孩子們的照片是公開的還是受限制的，都是在未經適當同意的情況下使用的，家長可能同意將孩子的照片放在學校網站上，但這並不意味著他們同意將這些照片抓取為人工智能資料集，一旦這些圖像出現在公開網絡，就可以被修改，可以被非常不恰當地使用，而且對此沒有任何控制。
除了隱私限制之外，肯德爾還說，在人工智能技術道德使用方面進行更多培訓和教育能夠讓澳人受益，這樣可以確保收集到的數據就不會被用來造成傷害。
聯邦政府預計八月向國會提交「隱私權法」改革，其中包括「兒童網絡隱私法」。（子力）
