大家好!
继上次介绍Rustynum之后,我将分享最近几周的开发进展。Rustynum是一个轻量级的NumPy替代品,使用Rust编写,并采用MIT许可证开源发布在GitHub上。它利用Rust的SIMD特性,实现更快的数值计算,同时保持体积小巧(Python wheel约300KB)。本文将重点介绍开发过程中的心得体会,以及新增的文档和教程。
简要回顾
如果您错过了之前的公告,Rustynum的主要特性包括:
- 利用Rust的SIMD指令集
- 高性能
- Rust的内存安全特性,无需GC开销
- 小巧的发布包大小(远小于NumPy wheel)
- 类似NumPy的接口,方便Python用户迁移
更多信息请访问Rustynum官网或查看我之前在dev.to发表的文章。
开发人员视角:最新进展
- 矩阵操作改进
我投入大量精力确保矩阵操作的便捷性。能够以最小的代码改动,实现NumPy的矩阵向量乘法或矩阵矩阵乘法等操作,是一个主要目标。.dot()函数和@运算符都支持这些操作。
- 查看相关教程: Rustynum中的高级矩阵操作
以下是一个快速示例:
import rustynum as rnp matrix = rnp.numarray([i for i in range(16)], dtype="float32").reshape([4, 4]) vector = rnp.numarray([1, 2, 3, 4], dtype="float32") # 使用dot函数 result_vec = matrix.dot(vector) print("矩阵向量乘法结果:", result_vec)
可以看到,这与NumPy的工作流程非常相似。基准测试显示,Rustynum在处理小型和中等数据集时,速度通常与NumPy相当,有时甚至更快。对于大型矩阵,我仍在进行优化。
- 常用分析任务加速
除了矩阵乘法,我还持续改进mean()、min()、max()和dot()等操作的性能。这些函数是SIMD加速的主要目标。此外,还有一个教程演示如何用Rustynum替换特定的NumPy调用,这对于解决Python循环瓶颈非常有用。
- 示例:
import numpy as np import rustynum as rnp # 生成测试数据 data_np = np.random.rand(1_000_000).astype(np.float32) data_rn = rnp.numarray(data_np.tolist(), dtype="float32") # NumPy方法 mean_np = data_np.mean() # Rustynum方法 mean_rn = data_rn.mean().item() print("NumPy均值:", mean_np) print("Rustynum均值:", mean_rn)
虽然Python的开销有时会抵消Rust的原生速度优势,但在许多情况下,Rustynum仍然表现出性能优势。
- 新增教程:现实世界示例
为了更好地展示Rustynum的优势,我添加了几个新的教程,涵盖了现实世界的编码场景:
- 高级矩阵操作 – 重点讲解点积、矩阵向量乘法和矩阵矩阵乘法。
- 替换核心NumPy调用 – 演示如何将NumPy的mean、min、dot替换为Rustynum。
- 简化机器学习预处理 – 探索机器学习中的缩放、标准化和特征工程。
最后一个教程是我个人最喜欢的,它涵盖了机器学习管道中常见的预处理步骤,只需将NumPy调用替换为Rustynum即可。
- 缩放代码片段示例:
def min_max_scale(array): col_mins = [] col_maxes = [] for col_idx in range(array.shape[1]): col_data = array[:, col_idx] col_mins.append(col_data.min()) col_maxes.append(col_data.max()) scaled_data = [] for col_idx in range(array.shape[1]): col_data = array[:, col_idx] numerator = col_data - col_mins[col_idx] denominator = col_maxes[col_idx] - col_mins[col_idx] or 1.0 scaled_col = numerator / denominator scaled_data.append(scaled_col.tolist()) return rnp.concatenate( [rnp.numarray(col, dtype="float32").reshape([array.shape[0], 1]) for col in scaled_data], axis=1 )
这段代码展示了Rustynum如何高效地进行行/列操作。缩放后,数据仍然可以被馈送到您喜欢的机器学习框架中。
正在进行的工作
- 大型矩阵优化
我注意到,对于非常大的矩阵(例如10k×10k),Rustynum的当前代码路径与NumPy相比,尚未完全优化。这仍然是一个活跃的开发领域。Rustynum还处于早期阶段,我希望引入进一步的并行化或基于块的乘法技术,以提升大型矩阵的性能。
- 扩展数据类型
Rustynum目前支持float32和float64,以及一些整数类型。我正在考虑添加更强大的整数支持,例如用于索引或小型转换的整数类型。同时,如果社区有需求,高级数据类型(例如复数)也可能会被加入。
- 文档和API增强
Rustynum.com上的文档网站包含API参考和路线图,我正在持续改进。如果您发现任何缺失的内容,或者有特定用例的考虑,请随时在GitHub上提交问题或Pull Request。
- Rustynum的主要目标
Rustynum最初只是我将Rust和Python结合起来的学习项目。由于我每天都在从事机器学习相关工作,因此我希望Rustynum能够取代我日常工作中部分NumPy的例程。我们正在逐渐实现这个目标。我开始添加更多关于如何在机器学习管道中集成Rustynum的教程。
- 快速代码示例:机器学习集成
以下是一个简短的示例,展示了Rustynum如何融入数据管道:
import numpy as np import rustynum as rnp from sklearn.linear_model import LogisticRegression # 1) 使用NumPy创建合成数据 train_np = np.random.rand(1000, 10).astype(np.float32) labels_np = np.random.randint(0, 2, size=1000) # 2) 转换为Rustynum进行快速缩放 train_rn = rnp.NumArray(train_np.flatten().tolist(), dtype="float32").reshape([1000, 10]) # 基本缩放 (计算每列的最小值和最大值) scaled_rn = [] for col_idx in range(train_rn.shape[1]): col_data = train_rn[:, col_idx] mn = col_data.min() mx = col_data.max() rng = mx - mn if (mx != mn) else 1.0 scaled_col = (col_data - mn) / rng scaled_rn.append(scaled_col.tolist()) train_scaled_rn = rnp.concatenate( [rnp.NumArray(col, dtype="float32").reshape([1000, 1]) for col in scaled_rn], axis=1 ) # 3) 转换回NumPy用于scikit-learn train_scaled_np = np.array(train_scaled_rn.tolist(), dtype=np.float32) # 4) 训练逻辑回归模型 model = LogisticRegression() model.fit(train_scaled_np, labels_np) print("模型系数:", model.coef_)
这个脚本展示了Rustynum如何以Pythonic的方式处理数据转换,然后您可以将数组传递给其他库。
总结
扩展Rustynum的功能,并探索Rust与Python集成如何实现高性能计算,是一个非常有趣的过程。最近的教程展示了Rustynum如何在数据科学或机器学习任务中部分替代NumPy,尤其是在处理较小或中等大小数组的任务中。
- 访问Rustynum.com查看教程
- 在GitHub上贡献代码或报告问题
- 分享您的反馈
感谢您的关注,期待听到Rustynum如何帮助到您的项目!
祝您编程愉快!
Igor
以上就是Rustynum随访:新鲜见解和正在进行的发展的详细内容,更多请关注php中文网其它相关文章!