據外媒報道，在當地時間周三在OpenReview.net上發表的一篇論文中，谷歌AI和芝加哥豐田科技機構(Toyota technology Institute of Chicago)宣布，他們的新AI ALBERT在幾項自然語言閱讀理解測試中都獲得了第一名，其在SQuAD 2.0、GLUE、RACE成績方面都拿到了第一的位置。
在GLUE中，ALBERT拿到了89.4的分數，在SQUAD中拿到了92.2、在RACE中拿到89.4。

SQUAD 2.0人類平均表現分則為89.452。

據悉，SQuAD2.0結合了SQuAD1.1的10萬個問題和5萬多個新的、無法回答的問題。為了在SQuAD2.0做到更好，系統不僅必須在可能的情況下回答問題，而且還必須確定段落中什么時候不支持回答并避免回答。

ALBERT使用參數降低技術來減少內存消耗并提高BERT的訓練速度。
論文寫道：“我們提出的方法使得模型的規模比原來的BERT要好得多。我們還使用了一種自我監督的缺失，這種缺失側重于對句子間連貫進行建模，并表明其始終有助于下游任務的多句輸入。”

據了解，這種技術在互聯網上閱讀大量文本并提供連貫答案方面有著顯著的應用，這可以為搜索引擎來帶來一個明顯的好處。

來源 | cnBeta.COM