百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

关于写一个NodeJS库补上org生态缺失的一环这件事

liuian 2025-03-13 17:16 6 浏览

因缘

不久前打算将我的博客内容格式从mdx转到orgmode,此前我一直在使用contentlayer[1]管理我的mdx文档,但是因为一些原因这个项目停止维护了,并且虽然它具有一定的定制化能力,但和Markdown的绑定太深,无法满足我迁移到orgmode的需求,于是我花了点时间做了我个人的第一个JavaScript/TypeScript库:docube[2]

设计

通常我更喜欢使用可定制性高的软件,但是像Vim、Emacs这类软件常常被抱怨新手上手难度太高,似乎高度可定制和开箱即用是非常冲突的理念,所以我希望做一个硬核用户可以自定义行为,普通用户又可以快速上手使用的应用。在具体实践上,我借助了effect[3]这个库,抽象出了一个通用的转换流程:



我的原始的需求就是将本地的org文件读取解析成HTML文本格式,并和其它元数据一起组成JSON文件+TypeScript定义文件的形式,之后在React里直接引用。核心的流程就是通过Loader获取抽象的FileLkie[],再调用FileConverter转换内容,最后通过Writer写入,因为我想尽量保持核心的通用性,所以ModuleResolver(主要是用来生成JS模块和类型定义)在这里是可选的,用户可以通过注入对应的依赖来改变默认的行为。

常规的使用方式并不需要了解这些概念,下面是这段是我的博客从contentlayer迁移后的代码:

import { transform } from '@docube/mdx'
import rehypeProbeImageSize from './lib/rehypeImage'
import remarkGfm from 'remark-gfm'

transform({
  name: 'Post',
  directory: './posts',
  include: '**/*.mdx',
  fields: (s) => ({
    title: s.String,
    tags: s.Array(s.String),
    series: s.String,
    createdAt: s.String,
    publishedAt: s.String,
    summary: s.String,
  }),
  remarkPlugins: [remarkGfm],
  rehypePlugins: [rehypeProbeImageSize],
})

执行这段代码就可以得到一个生成的.docube/generated/posts模块,顶层导出了allPosts变量,在NextJS里,可以这样使用[4]

import { allPosts } from '@docube/generated'
import { getMDXComponent } from 'mdx-bundler/client'

// ...
  const MDXContent = getMDXComponent(post.body)
// ...

// ...
export async function generateMetadata({ params }: Props): Promise {
  const { slug } = params
  // post即是自动生成的Post类型
  const post = allPosts.find((post) => post._meta.slug === slug)

  if (!post) notFound()

  return {
    title: `${post.title} - Elliot`,
    keywords: post.tags as string[],
    description: post.summary,
  }
}

而如果需要个性化使用,如提供一种新的文本格式的支持,只需要引用@docube/commonmakeTransformer,修改传入的FileConverter依赖就可实现,具体见@docube/markdown[5]的实现。

问题

虽说我已经写过不少TypeScript代码,但在npm上发布库还是第一次,过程中还是遇到了不少问题的,在此记录一下,避免后来人踩坑。

Monorepo

考虑到我至少需要默认支持mdx和org两种格式,所以一开始我就想要创建多个库,因此采用了monorepo的形式。Monorepo说白了就是在一个代码仓库里包含有关联的多个项目,可以共享同样的外围工具如lint、format等,项目之间需要重构更新依赖相对来说要比多仓库轻松些。

对于JS项目,在根目录的package.json添加如"workspaces": ["packages/*"],就可以在packages目录里包含多个子包。但是在开发时,如果B包依赖A包,tsserver实际上检查的是A包build后的dist,而不是A包的TS代码,也就是说如果A包更新了,需要先build一下,才能使LSP正确地工作。如果不想手动执行命令,可以用一些工具的Watch Mode功能,检测到包变化自动rebuild,当然前提是开发机器内存够用:)。

同步依赖

多个子项目依赖同一个依赖的情况是非常常见的,一般来说最好能全局共享这种相同的依赖,将其保持在一个相同版本。这方面NPM那边没有定义这个功能,不像Cargo可以让子项目继承Workspace的依赖。要实现这个目的的话,要么用syncpack[6]这类专门处理这个问题的工具,要么用pnpm这类的包管理工具的Workspace支持[7]

发版

将包发布到npm上只需要build后执行npm publish就可以了,但是如果更新的包被另外几个包依赖了,那么后者也需要更新。这个问题有个辅助工具changesets[8],它能自动帮助更新相关有改动的包的版本,并维护Changelog

scope

NPM有一个比较好的设计是你可以给包名加一个范围前缀,比如有个通用的名字叫time,不同的组织可以用@google/time@microsoft/time,一方面是避免想用的名字被抢,一方面是对于大企业来说可以标识一下这是自己的官方包。这里对新手的一个坑点是,当你创建了一个scope,然后想发布一个包,如@docube/mdx,默认情况下这个包会被当做是你组织下的私有包,而私有包是要收费的,需要用npm publish --access=public明确表明这是个公开的包,或者在package.json里写明:

{
  "publishConfig": {
    "access": "public"
  },
  ...
}

lint

turbo默认生成的Monorepo模板内部使用了eslint v8,而当前最新的eslint版本是v9,这两个版本之间有不兼容的改动,所以如果在这个模板上新建项目,并且不指定安装的eslint版本的话,将无法使用turbo lint命令,解决办法一个是安装eslint时指定使用v8版本,另一个详见我的配置[9]

可选依赖

我本人对软件使用有一点小洁癖,不会用到的依赖就尽量不想要装到我的电脑上。如在Markdown支持上,很多人会在Markdown文件的开头放上一段yaml格式的文本来提供一些如撰写时间、作者等元信息:

---
date: 2024-02-02T04:14:54-08:00
draft: false
params:
  author: John Smith
title: Example
weight: 10
---

...

这个被称为front matter,但是处理这段文本的库每个人可能有不同的偏好选择(NPM上下载量较大的两个都有三年以上没有更新了);并且有些情况下,这个front matter不一定是yaml格式,如静态站生成器hugo就提供了yaml、toml和json三种选择。

如果我在我的库里直接依赖一个实现,那么既便我为用户提供了自定义解析这段文本的配置,用户也必须下载一个他用不到的第三方库,甚至就算是不需要front matter的用户也不得不安装。为此我使用了可选依赖,可选依赖定义在package.json的optionalDependencies,我在开发中使用的是bun,使用bun add gray-matter --optional就可以将这个gray-matter包安装为可选模式。

在我的库代码里,可以用tye-catch=加=import来判断用户有没有安装我默认的依赖,大致逻辑如下:

if (options.frontMatterExtractor) {
    frontMatterData = options.frontMatterData(content)
} else {
    try {
        const matter = import("gray-matter")
        // ...
    } catch (e) {
        // ...
    }
}

不想要front matter的用户,或者想用自己的逻辑处理的用户,可以用npm install --omit=optinal来避免安装我默认的可选包(具体命令根据使用的包管理器不同)。

这篇博客就是我用org格式写的(’ー’)

引用链接

[1] contentlayer: https://contentlayer.dev/
[2] docube:
https://codeberg.org/Elliot00/docube
[3] effect:
https://effect.website/
[4] 这样使用:
https://github.com/Eliot00/elliot00.com/blob/master/app/posts/%5Bslug%5D/page.tsx
[5] @docube/markdown:
https://codeberg.org/Elliot00/docube/src/branch/main/packages/markdown/src/index.ts
[6] syncpack:
https://www.npmjs.com/package/syncpack
[7] Workspace支持:
https://pnpm.io/cli/update#--recursive--r
[8] changesets:
https://github.com/changesets/changesets
[9] 我的配置:
https://codeberg.org/Elliot00/docube/src/branch/main/packages/eslint-config

相关推荐

GANs为何引爆机器学习?这篇基于TensorFlow的实例教程为你解惑!

「机器人圈导览」:生成对抗网络无疑是机器学习领域近三年来最火爆的研究领域,相关论文层出不求,各种领域的应用层出不穷。那么,GAN到底如何实践?本文编译自Medium,该文作者以一朵玫瑰花为例,详细阐...

高丽大学等机构联合发布StarGAN:可自定义表情和面部特征

原文来源:arXiv、GitHub作者:YunjeyChoi、MinjeChoi、MunyoungKim、Jung-WooHa、SungKim、JaegulChoo「雷克世界」编译:嗯~...

TensorFlow和PyTorch相继发布最新版,有何变化

原文来源:GitHub「机器人圈」编译:嗯~阿童木呀、多啦A亮Tensorflow主要特征和改进在Tensorflow库中添加封装评估量。所添加的评估量列表如下:1.深度神经网络分类器(DNNCl...

「2022 年」崔庆才 Python3 爬虫教程 - 深度学习识别滑动验证码缺口

上一节我们使用OpenCV识别了图形验证码躯壳欧。这时候就有朋友可能会说了,现在深度学习不是对图像识别很准吗?那深度学习可以用在识别滑动验证码缺口位置吗?当然也是可以的,本节我们就来了解下使用深度...

20K star!搞定 LLM 微调的开源利器

LLM(大语言模型)微调一直都是老大难问题,不仅因为微调需要大量的计算资源,而且微调的方法也很多,要去尝试每种方法的效果,需要安装大量的第三方库和依赖,甚至要接入一些框架,可能在还没开始微调就已经因为...

大模型DeepSeek本地部署后如何进行自定义调整?

1.理解模型架构a)查看深度求索官方文档或提供的源代码文件,了解模型的结构、输入输出格式以及支持的功能。模型是否为预训练权重?如果是,可以在预训练的基础上进行微调(Fine-tuning)。是否需要...

因配置不当,约5000个AI模型与数据集在公网暴露

除了可访问机器学习模型外,暴露的数据还可能包括训练数据集、超参数,甚至是用于构建模型的原始数据。前情回顾·人工智能安全动态向ChatGPT植入恶意“长期记忆”,持续窃取用户输入数据多模态大语言模型的致...

基于pytorch的深度学习人员重识别

基于pytorch的深度学习人员重识别Torchreid是一个库。基于pytorch的深度学习人员重识别。特点:支持多GPU训练支持图像的人员重识别与视频的人员重识别端到端的训练与评估简单的re...

DeepSeek本地部署:轻松训练你的AI模型

引言:为什么选择本地部署?在AI技术飞速发展的今天,越来越多的企业和个人希望将AI技术应用于实际场景中。然而,对于一些对数据隐私和计算资源有特殊需求的用户来说,云端部署可能并不是最佳选择。此时,本地部...

谷歌今天又开源了,这次是Sketch-RNN

前不久,谷歌公布了一项最新技术,可以教机器画画。今天,谷歌开源了代码。在我们研究其代码之前,首先先按要求设置Magenta环境。(https://github.com/tensorflow/magen...

Tensorflow 使用预训练模型训练的完整流程

前面已经介绍了深度学习框架Tensorflow的图像的标注和训练数据的准备工作,本文介绍一下使用预训练模型完成训练并导出训练的模型。1.选择预训练模型1.1下载预训练模型首先需要在Tensorf...

30天大模型调优学习计划(30分钟训练大模型)

30天大模型调优学习计划,结合Unsloth和Lora进行大模型微调,掌握大模型基础知识和调优方法,熟练应用。第1周:基础入门目标:了解大模型基础并熟悉Unsloth等工具的基本使用。Day1:大模...

python爬取喜马拉雅音频,json参数解析

一.抓包分析json,获取加密方式1.抓包获取音频界面f12打开抓包工具,播放一个(非vip)视频,点击“媒体”单击打开可以复制URL,发现就是我们要的音频。复制“CKwRIJEEXn-cABa0Tg...

五、JSONPath使用(Python)(json数据python)

1.安装方法pipinstalljsonpath2.jsonpath与Xpath下面表格是jsonpath语法与Xpath的完整概述和比较。Xpathjsonpath概述/$根节点.@当前节点...

Python网络爬虫的时候json=就是让你少写个json.dumps()

大家好,我是皮皮。一、前言前几天在Python白银交流群【空翼】问了一个Python网络爬虫的问题,提问截图如下:登录请求地址是这个:二、实现过程这里【甯同学】给了一个提示,如下所示:估计很多小伙伴和...