在windows上安装了Linux子系统，而且安装了wsl2更新，但是执行 1wsl --set-version Ubuntu 2 时出现Error: 0xffffffff错误，导致无法更新到wsl2。后来查到出错是因为53号端口被占用，将占用端口的程序关掉之后更新成功。 端口占用问题同样导致windows版docker无法启动WSL2，关掉程序后启动成功 参考https://www.cnblo

因为服务器上无法联网下载docker镜像，所以通过windows本地下载对应的镜像，之后再传到服务器上。 本地安装完docker后出现Failed to deploy distro docker-desktop错误，主要原因是WSL2，尝试了很多方法都没有解决。取消勾选docker-General-Use the WSL 2 base engine后能够正常启动docker。 本地下载完镜像之后先

执行代码时出现题述问题 执行下面的命令发现没有GLIBCXX_3.4.26对应的版本 1strings /home/app/anaconda3/lib/libstdc++.so.6 | grep GLIBCXX 根据stackoverflow上的操作，在anaconda/lib下发现有GLIBCXX_3.4.26的版本 1strings /home/app/anaconda3/lib/libst

服务器上没有root权限，管理员用命令帮忙装的版本太低了，所以需要手动安装高版本的库 但是装完之后发现lib目录下只有.cmake文件，没有.so文件 问题在于cmake之后没有执行make就直接执行make install了。在cmake后执行make，再执行make install后安装正常 12345cd $HOME/CGAL-5.3mkdir buildcd buildcmake ..

手动安装cmake，执行./bootstrap后出现标题所示错误提示，因为这一步出错，所以后面的步骤都无法继续进行 一开始以为是服务器上没有装openssl，使用openssl version命令发现有对应的版本，但是路径下没有include等文件夹 接着手动安装openssl，并且设置临时系统变量 12export OPENSSL_ROOT_DIR=/data/lib/openssl-1.1.1

问题陈述 从图1a中的原始attention可以看出，只有在最开始的几层，不同位置的attention模式有一些区别，但是更高层中的attention权重更加一致。这表示随着模型层数的增加，嵌入的内容变得更加情境化，可能都带有类似的信息。此外，另一篇文章中表示注意力权重不一定与输入token的相对重要性相对应。 作者使用输入消融法，blank-out方法来估计每个输入token的重要性。Blan

在PyTorch0.4.0之后Variable 已经被PyTroch弃用 Variable不再是张量使用autograd的必要条件 只需要将张量的requires_grad设为True该张量就会自动支持autograd运算 在新版的PyTorch中Variable(tensor)和Varialbe(tensor, requires_grad)还能继续使用，但是返回的是tensor变量，而不是Var

堆叠一个DataFrame意味着将最内层的列索引移动为最内层的行索引。其逆运算叫做反叠加。 堆叠（stack）是什么?-如果我们有多个索引列，通过将最内层的列级别移动到最内层的行级别来减少数据集列。所以堆栈是将cols的索引变到rows(最里面的)。如图2所示，经过pt.stack()操作后marital_status从列索引变为行索引 反叠加（unstack）是什么?-如果我们有多索引行，我

最近需要对Transformer网络的中间层进行可视化，便于分析网络，在此记录一些常用到的概念。 常用到的方法主要是Attention Rollout和Attention Flow，这两种方法都对网络中每一层的token attentions进行递归计算，主要的不同在于假设低层的attention weights如何影响到高层的信息流，以及是否计算token attentions之间的相关性。 为

pop(key[, default]) if key is in the dictionary, remove it and return its value, else return default. If default is not given and key is not in the dictionary, a KeyError is raised. kwargs.pop()的作用是