Lightweight Language Models for Open Scientific Workflows
- xử lý ngôn ngữ tự nhiên
- khoa học mở
Abstract
Tóm tắt. Chúng tôi khảo sát khả năng dùng mô hình ngôn ngữ cỡ nhỏ (dưới 3 tỉ tham số) để tự động hoá các bước lặp lại trong quy trình nghiên cứu mở như tóm tắt tài liệu, trích xuất siêu dữ liệu và sinh bản ghi tái lập. Kết quả cho thấy mô hình nhỏ được tinh chỉnh đạt chất lượng tương đương mô hình lớn hơn mười lần với chi phí thấp hơn đáng kể.
BibTeX
@misc{han2024lightweight,
title = {Lightweight Language Models for Open Scientific Workflows},
author = {Võ Gia Hân and Trần Minh Khoa and Priya Nair},
howpublished = {arXiv preprint},
year = {2024},
url = {https://arxiv.org/abs/2402.00004}
}