微软工程师用PyTorch实现图注意力网络,可视化效果惊艳( 二 )



微软工程师用PyTorch实现图注意力网络,可视化效果惊艳
文章图片

微软工程师用PyTorch实现图注意力网络,可视化效果惊艳
文章图片
可视化工具
如果要可视化t-SNE嵌入 , 请注意或嵌入该visualize_gat_properties函数的注释 , 并设置visualization_type为:
VisualizationType.ATTENTION-如果希望可视化节点附近的注意力
VisualizationType.EMBEDDING-如果希望可视化嵌入(通过t-SNE)
VisualizationType.ENTROPY-如果想可视化熵直方图
然后 , 你就得到了一张优秀的可视化效果图(VisualizationType.ATTENTION可选):

微软工程师用PyTorch实现图注意力网络,可视化效果惊艳
文章图片

微软工程师用PyTorch实现图注意力网络,可视化效果惊艳
文章图片
硬件需求
GAT不需要那种很强的硬件资源 , 尤其是如果你只想运行Cora的话 , 有2GB以上的GPU就可以了 。
在RTX2080GPU上训练GAT大约需要10秒;
保留1.5GB的VRAM内存(PyTorch的缓存开销 , 为实际张量分配的内存少得多);
模型本身只有365KB 。
【微软工程师用PyTorch实现图注意力网络,可视化效果惊艳】视频链接:https://v.qq.com/x/page/v3225t65a0q.html?start=8