都直接体现在代码里。
比如平时常见的写法可能是这样:
np.einsum("ik,kj->ij", A, B)
jax.grad(loss_fn)(W)
在 Einlang 里,我现在会更希望它长这样:
let C[i, j] = sum[k](A[i, k] * B[k, j]);
let dloss_dW = @loss / @W;
语法上会有一点 Rust 的影子,比如 let 和分号。可以从 Python 调,也可以直接走命令行。
项目地址:
https://github.com/einlang/einlang
如果只是想随手跑一下,可以执行:
python3 -m pip install "git+https://github.com/einlang/einlang.git"
python3 -m einlang -c "let x = 1 + 1; print(x);"
不知道这种实现在 AI 时代是否还有意义,希望能看到大家的点评和建议。
除了矩阵运算和自动求导,我还想试着把“递推过程”本身也放进同一套语法里。下面这段代码,不是先在外面写循环,再在循环里调用求导,而是可以直接把“每一步依赖前一步”的关系写出来:
let alpha = 0.25;
let x[0] = 8.0;
let x[k in 1..6] = {
let prev = x[k - 1];
let loss = prev * prev;
let g = @loss / @prev;
prev - alpha * g
};

