該公司聲稱，該工具將創(chuàng)造一個健康和諧的社區(qū)環(huán)境。

　　該公司還表示，將減少圖片或文字中與偏見、仇恨、暴力等相關的負面內容。

　　人工智能內容審核工具Azure AI 內容正式發(fā)布，其實是在今年 5 月上線的。

　　但是，此工具已經測試了好幾個月。

　　經過嚴格的測試，該公司昨天正式發(fā)布了該工具。

　　無論負面內容是文本還是圖像，Azure AI 內容安全都會提供一系列經過訓練的人工智能模型來檢測它們。

　　該工具還可以理解和檢測八種語言的圖片或文本。

　　該工具將為標記的內容分配嚴重性分數(shù)，向人工審閱者指示哪些內容需要操作。

　　內容審核工具最初已集成到 Azure OpenAI 服務中。

　　但是，微軟現(xiàn)在正式將其作為獨立系統(tǒng)推出。

　　微軟在一篇官方博客文章中寫道。

　　“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內容，以及調用一些用戶生成的內容，進一步擴展效用。

　　微軟表示，與其他類似產品相比，該產品在公正性和理解方面得到了顯著改善。

　　但是，該產品仍然依賴于人工審閱者來標記數(shù)據(jù)和內容。這意味著最終，它的公平性取決于人類。

　　在處理數(shù)據(jù)和內容時，人工審閱者可能會帶來自己的偏見。

　　這意味著他們仍然不能完全中立和謹慎。

　　在本文中，我們將探討 Azure AI 內容安全的功能，以及它如何幫助企業(yè)維護安全的在線空間。