当前位置:首页 > 技术 > 正文内容

FastText 词向量模型训练与应用

访客 技术 2026年9月3日 1

1. 模型架构: ![image]()

2. 实现代码:

import fasttext

def train_word_embeddings():
    # 方法一:执行无监督学习来构建词汇嵌入模型
    # trained_model = fasttext.train_unsupervised('./corpus.txt', epoch=1)
    
    # 方法二:存储训练完成的模型
    model_file = 'word_vectors.bin'
    # trained_model.save_model(model_file)
    
    # 方法三:载入预训练模型,提取特定词汇的向量表示
    loaded_model = fasttext.load_model(model_file)
    vector_result = loaded_model.get_word_vector('computer')
    print(f'vector_shape---》{vector_result.shape}')
    print(f'vector_type---》{type(vector_result)}')
    
    # 方法四:检索与目标词汇相似的词语,如查询"technology"可找到相关词汇
    similar_words = loaded_model.get_nearest_neighbors('technology')
    print(f'similar_words---》{similar_words}')

if __name__ == '__main__':
    train_word_embeddings()

3. 无监督训练配置参数: ![image]()

4. 代码功能解析: 此示例展示了如何利用 **NumPy** 和 **PyTorch** 构建一维数据结构,并检查其基本特征。以下是详细分析:

第一部分:NumPy 实现

import numpy as np
data_array = np.array([10, 20, 30, 40, 50])
print(data_array.ndim)
  • import numpy as np:引入 NumPy 模块,并设置别名 np 便于后续引用。
  • data_array = np.array([10, 20, 30, 40, 50]):生成一个名为 data_array 的 **NumPy 数组**,包含 5 个数值 [10, 20, 30, 40, 50],构成**单维度数组**。
  • print(data_array.ndim):输出数组 data_array 的**维度计数**。
    • 对于单维度数组,ndim 返回值为 1
    • 实际输出:**1**

第二部分:PyTorch 实现

import torch
tensor_data = torch.tensor([6, 7, 8, 9, 10])
print(tensor_data.shape)
print(tensor_data.size())
  • import torch:载入 PyTorch 框架。
  • tensor_data = torch.tensor([6, 7, 8, 9, 10]):创建一个名为 tensor_data 的 **PyTorch 张量**,内容为 [6, 7, 8, 9, 10],同样属于**单维度张量**。
  • print(tensor_data.shape):展示张量 tensor_data 的**结构信息**。
    • shape 属性提供 torch.Size 对象,描述各个维度的长度。
    • 针对单维度张量,结构显示为 torch.Size([5]),表明含有 5 个元素。
  • print(tensor_data.size()):调用张量的 size() 函数,**其返回值与 tensor_data.shape 完全一致**,均为 torch.Size 类型。
    • 输出结果亦为 torch.Size([5])

完整输出结果

当程序正常执行时,终端将显示:

1
torch.Size([5])
torch.Size([5])

附加说明

  • ndimshape 区别
    • NumPy 中 ndim 提供维度数量(如单维为 1),shape 提供各维度具体尺寸(如 (5,))。
    • PyTorch 中不存在 ndim 属性,但可用 tensor_data.dim() 获取维度(此处 tensor_data.dim() 返回 1)。
  • size() 函数:在 PyTorch 中,size() 返回结构信息,若需获取总元素数应使用 tensor_data.numel()(NumPy 中对应 data_array.sizenp.prod(data_array.shape))。
  • 应用场景:该代码通常用于验证 NumPy 和 PyTorch 的安装状态,同时帮助理解张量基础属性。
import numpy as np
data_array = np.array([1, 2, 3, 4, 5])
print(data_array.ndim)

import torch
tensor_data = torch.tensor([1, 2, 3, 4, 5])
print(tensor_data.shape)
print(tensor_data.size())

相关文章

Linux crontab 详解

1) crontab 是什么cron 是 Linux 的定时任务守护进程;crontab 是用来编辑/查看“按时间周期执行命令”的表(cron table)。常见两类:用户 crontab:每个用户一份(crontab -e 编辑)系统级 crontab / cron.d:可指定执行用户(/etc/crontab、/etc/cron.d/*)2) crontab 时间...

富文本里可以允许的 HTML 属性

一、所有标签默认允许的安全属性(极少)class        (可选)id           (通常建议禁用)title️ 注意:id 容易被滥用做锚点注入,很多系统直接禁用class 允许的话最好只允许固定前缀(如 editor-*)二、a 标签允许属性<a href="" t...

Mac 安装 Node.js 指南

方法一:通过官网安装包(最简单,适合初学者)如果你只是想快速安装并开始使用,这是最直接的方法。访问 Node.js 官网。页面会显示两个版本:LTS (Recommended For Most Users):长期支持版,最稳定。建议选这个。Current:最新特性版,包含最新功能但可能不够稳定。下载 .pkg 安装包并运行。按照安装向导点击“下一步”即可完成。方法二:使用 Homebrew 安装(...

Dom\HTML_NO_DEFAULT_NS 的副作用:自动加闭合标签

在使用Dom\HTMLDocument时,Dom\HTML_NO_DEFAULT_NS 将禁止在解析过程中设置元素的命名空间, 此设置是为了与DOMDocument向后兼容而存在的。当使用它时,已知的一个副作用就是:自动加闭合标签例如 </img> 为什么会这样?当你使用:Dom\HTML_NO_DEFAULT_NS文档会变成 无命名空间模式,此时内部更接近 XML...

Laravel 事件和监听器创建

在 Laravel 中,使用 Artisan 命令创建 Events(事件) 和 Listeners(监听器) 是非常高效的。你可以通过以下几种方式来实现:1. 手动创建单个 Event如果你只想创建一个事件类,可以使用 make:event 命令:Bashphp artisan make:event UserRegistered执行后,文件将生成在 app/Even...

自定义域名解析神器 dnsmasq

什么是 dnsmasq?dnsmasq 是一个轻量级、功能强大的网络服务工具,专为小型和中等规模网络设计。它是一个综合的网络基础设施解决方案[1]。dnsmasq 能做什么?功能说明应用场景DNS 转发与缓存将 DNS 查询转发到上游服务器(ISP、Google DNS 等),并在本地缓存结果加快 DNS 查询速度,减少外部 DNS 流量本地 DNS解析本地网络设备的主机名,无需编辑&n...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。