Adapting to the Low-Resource Double-Bind: Investigating Low-Compute Methods on Low-Resource African Languages
许多自然语言处理(NLP)任务使用了大量的预训练语言模型,这些模型计算代价很高。然而,获取高计算资源再加上非洲语言数据稀缺的问题,构成了对这些语言的研究工作的实际障碍。在本文中,我们将探索低计算资源双重绑定背景下,如语言适配器等低计算方法的适用性。我们旨在回答以下问题:语言适配器是否允许那些受到数据和计算双重限制的人Practically build useful models?通过优化非洲语言的实验,我们评...