当前位置:首页 > 技术 > 正文内容

Go 语言 bufio.Scanner 高效文本扫描指南

访客 技术 2026年7月6日 1

bufio.Scanner 是 Go 标准库中轻量级的文本扫描工具,专为逐行或逐词处理输入流而设计。它通过内置的分词策略,能够高效地从标准输入、文件或字符串中提取数据,适用于日志解析、配置文件读取等常见场景。

从控制台读取数据

处理交互式命令行输入时,Scanner 提供阻塞式的读取机制:

package main

import (
	"bufio"
	"fmt"
	"os"
)

func main() {
	reader := bufio.NewScanner(os.Stdin)
	fmt.Println("请输入内容(按 Ctrl+D 结束):")
	
	for reader.Scan() {
		line := reader.Text()
		fmt.Printf("接收到的数据: %s\n", line)
	}
	
	if err := reader.Err(); err != nil {
		fmt.Fprintf(os.Stderr, "读取异常: %v\n", err)
	}
}

文件内容逐行处理

对于大文件读取,Scanner 的流式处理能有效控制内存占用:

package main

import (
	"bufio"
	"fmt"
	"os"
)

func processLog(path string) error {
	fd, err := os.Open(path)
	if err != nil {
		return err
	}
	defer fd.Close()

	parser := bufio.NewScanner(fd)
	lineNum := 0
	for parser.Scan() {
		lineNum++
		content := parser.Text()
		fmt.Printf("[%d] %s\n", lineNum, content)
	}
	
	return parser.Err()
}

自定义分词策略

通过 Split 方法可切换内置的分词器,或实现自定义分割逻辑:

内置分词模式对比

分词器功能说明适用场景
ScanLines按换行符分割(默认)日志文件、配置文件
ScanWords按空白字符分割词频统计、文本分析
ScanBytes逐字节读取二进制协议解析
ScanRunes按 Unicode 字符分割多语言文本处理
package main

import (
	"bufio"
	"fmt"
	"strings"
)

func main() {
	sample := "Go 语言|Python|JavaScript|Rust|Java"
	
	// 按行模式(此处无换行,整体作为一行)
	lineMode := bufio.NewScanner(strings.NewReader(sample))
	lineMode.Split(bufio.ScanLines)
	for lineMode.Scan() {
		fmt.Println("整行内容:", lineMode.Text())
	}
	
	fmt.Println("--- 分隔符模式 ---")
	
	// 自定义分词:按管道符分割
	customMode := bufio.NewScanner(strings.NewReader(sample))
	customMode.Split(func(data []byte, atEOF bool) (advance int, token []byte, err error) {
		if atEOF && len(data) == 0 {
			return 0, nil, nil
		}
		if i := strings.Index(string(data), "|"); i >= 0 {
			return i + 1, data[0:i], nil
		}
		if atEOF {
			return len(data), data, nil
		}
		return 0, nil, nil
	})
	
	for customMode.Scan() {
		fmt.Println("提取字段:", customMode.Text())
	}
}

完整实战:交互式凭证采集

package main

import (
	"bufio"
	"fmt"
	"os"
	"syscall"

	"golang.org/x/term"
)

type Credentials struct {
	Account  string
	Password string
}

func collectInput() (*Credentials, error) {
	cred := &Credentials{}
	
	// 账号输入(明文显示)
	fmt.Print("账号: ")
	accountReader := bufio.NewScanner(os.Stdin)
	if !accountReader.Scan() {
		return nil, fmt.Errorf("账号读取失败")
	}
	cred.Account = accountReader.Text()
	
	// 密码输入(隐藏回显)
	fmt.Print("密码: ")
	pwdBytes, err := term.ReadPassword(int(syscall.Stdin))
	if err != nil {
		return nil, err
	}
	fmt.Println() // 换行
	cred.Password = string(pwdBytes)
	
	return cred, nil
}

func main() {
	info, err := collectInput()
	if err != nil {
		fmt.Fprintf(os.Stderr, "错误: %v\n", err)
		os.Exit(1)
	}
	fmt.Printf("已采集账号信息(密码长度: %d)\n", len(info.Password))
}

注意事项与最佳实践

  • 最大令牌限制:默认 64KB,超长行需调用 scanner.Buffer(make([]byte, 1024), maxCapacity) 扩容
  • 错误处理:循环结束后必须检查 scanner.Err(),区分 EOF 与真实错误
  • 性能权衡:简单场景优先用 Scanner,复杂解析考虑 bufio.Reader
  • 并发安全Scanner 非线程安全,多 goroutine 需独立实例
标签: Gobufio

相关文章

Linux crontab 详解

1) crontab 是什么cron 是 Linux 的定时任务守护进程;crontab 是用来编辑/查看“按时间周期执行命令”的表(cron table)。常见两类:用户 crontab:每个用户一份(crontab -e 编辑)系统级 crontab / cron.d:可指定执行用户(/etc/crontab、/etc/cron.d/*)2) crontab 时间...

富文本里可以允许的 HTML 属性

一、所有标签默认允许的安全属性(极少)class        (可选)id           (通常建议禁用)title️ 注意:id 容易被滥用做锚点注入,很多系统直接禁用class 允许的话最好只允许固定前缀(如 editor-*)二、a 标签允许属性<a href="" t...

Mac 安装 Node.js 指南

方法一:通过官网安装包(最简单,适合初学者)如果你只是想快速安装并开始使用,这是最直接的方法。访问 Node.js 官网。页面会显示两个版本:LTS (Recommended For Most Users):长期支持版,最稳定。建议选这个。Current:最新特性版,包含最新功能但可能不够稳定。下载 .pkg 安装包并运行。按照安装向导点击“下一步”即可完成。方法二:使用 Homebrew 安装(...

Dom\HTML_NO_DEFAULT_NS 的副作用:自动加闭合标签

在使用Dom\HTMLDocument时,Dom\HTML_NO_DEFAULT_NS 将禁止在解析过程中设置元素的命名空间, 此设置是为了与DOMDocument向后兼容而存在的。当使用它时,已知的一个副作用就是:自动加闭合标签例如 </img> 为什么会这样?当你使用:Dom\HTML_NO_DEFAULT_NS文档会变成 无命名空间模式,此时内部更接近 XML...

Laravel 事件和监听器创建

在 Laravel 中,使用 Artisan 命令创建 Events(事件) 和 Listeners(监听器) 是非常高效的。你可以通过以下几种方式来实现:1. 手动创建单个 Event如果你只想创建一个事件类,可以使用 make:event 命令:Bashphp artisan make:event UserRegistered执行后,文件将生成在 app/Even...

自定义域名解析神器 dnsmasq

什么是 dnsmasq?dnsmasq 是一个轻量级、功能强大的网络服务工具,专为小型和中等规模网络设计。它是一个综合的网络基础设施解决方案[1]。dnsmasq 能做什么?功能说明应用场景DNS 转发与缓存将 DNS 查询转发到上游服务器(ISP、Google DNS 等),并在本地缓存结果加快 DNS 查询速度,减少外部 DNS 流量本地 DNS解析本地网络设备的主机名,无需编辑&n...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。