uuid stringlengths 36 36 | url stringlengths 30 58 | title stringlengths 0 71 | html_content stringlengths 87.4k 2.91M |
|---|---|---|---|
a154688c-b385-4d2a-bec7-f239f1397d21 | https://news.un.org/zh/gallery/287612 | 印度尼西亚承诺到2022年消除一切形式的童工现象 | <!DOCTYPE html>
<html lang="zh-hans" dir="ltr" prefix="og: https://ogp.me/ns#">
<head>
<meta charset="utf-8" />
<script>window.dataLayer = window.dataLayer || []; window.dataLayer.push({"drupalLanguage":"zh-hans","drupalCountry":"US","siteName":"联合国新闻","entityCreated":"1528822146","entityLangcode":"zh-hans","enti... |
5fa4b151-8132-4220-b6ad-14ee6202643b | https://news.un.org/zh/gallery/298542 | 联大进行时——世界领导人的193个演讲正在进行之中 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
73b35256-9758-4ba5-9b70-170365a1e9ae | https://news.un.org/zh/gallery/292902 | 秘鲁安第斯高原的土著人利用当地生畜羊驼改变生计 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
c047f2af-deff-4267-8a6e-7167eb1f3526 | https://news.un.org/zh/gallery/287101 | 历史上第四位女性联大主席当选产生 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
51d6d956-40b8-4f73-8d00-574d927bc1d6 | https://news.un.org/zh/gallery/300462 | 联大第73届会议顺利闭幕：七大精彩瞬间 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
58f778c0-2cf7-42c8-9bb3-cf14fab5ac45 | https://news.un.org/zh/gallery/295402 | 寻找仍在继续：在巴尔干战争中失踪的人 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
ad5fabc3-1889-4e52-aee5-ee8f5f4f8327 | https://news.un.org/zh/gallery/291962 | 马里总统选举准备就绪 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
92f67b74-9014-4b80-99e0-9c890e1e77a3 | https://news.un.org/zh/gallery/294872 | 罗兴亚难民危机爆发一周年： 联合国人口基金维护罗兴亚女性的尊严 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
bd5e68a6-4496-4121-9320-d0540ae437e3 | https://news.un.org/zh/gallery/287942 | 联合国总部上演“小世界杯” | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
74bd456e-8083-4a5e-9ab0-07784f86ab19 | https://news.un.org/zh/interview/2018/01/1001311 | 打通世界的动脉—全球能源互联网发展合作组织的追求 | "<!DOCTYPE html>\n<html lang=\"zh-hans\" dir=\"ltr\" prefix=\"og: https://ogp.me/ns#\">\n <head>\n (...TRUNCATED) |
End of preview. Expand in Data Studio
Dataset Card for "UN Sitemap Multilingual HTML Corpus"
Update Time +8:00 2023-3-23 17:25:20
Dataset Summary
此数据集是从联合国网站提供的的sitemap中爬取的，包含了各种语言的HTML文件，并按照语言进行分类。数据集包含了不同语言的文章、新闻等联合国文本。数据集旨在为研究人员、学者和语言技术开发人员提供一个多语言文本集，可用于各种自然语言处理任务和应用。
数据集包括以下语言：汉语（zh）、英语（en）、西班牙语（ar）、俄语（ru）、西班牙语（es）、法语（fr）。
Dataset Structure
Data Instances
- 数据集文件大小: 约 14 GB
一个 'zh' 的例子如下：
{
'uuid': 'a154688c-b385-4d2a-bec7-f239f1397d21',
'url': 'https://news.un.org/zh/gallery/287612',
'title': '印度尼西亚承诺到2022年消除一切形式的童工现象'，
'html_content': '<!DOCTYPE html> <html lang="zh-hans" ...'
}
How to use
from datasets import load_dataset
import datasets
dataset = load_dataset('ranWang/UN_Sitemap_Multilingual_HTML_Corpus')
# lang_list = ['zh', 'en', 'fr', 'es', 'ru', 'ar']
for lang in dataset:
for colum in dataset[lang]:
# colum.keys = ['uuid', 'url', 'title', 'html_content']
# code...
OR
# you want to specify the language
dataset = load_dataset('ranWang/UN_Sitemap_Multilingual_HTML_Corpus', split={lang})
for colum in dataset:
# colum.keys = ['uuid', 'url', 'title', 'html_content']
# code...
- Downloads last month
- 73