「注意力機制」不是注意力

Vaswani 等人 2017 年的論文標題叫「Attention Is All You Need」。這個命名造成了巨大的概念混淆。Transformer 的 attention 是數學運算：對輸入序列中的 token 做加權分配，決定哪些對輸出影響更大。它不「想要」注意任何東西。它按參數分配權重。唯識的作意是心識「主動引向」——有方向性、有意願性。前者是被動計算，後者是主動認知。名字一樣，本質完全不同。