DuneAnalytics入门介绍

视频: https://www.bilibili.com/video/BV1ZK4y137Ce
DuneAnalytics是一个研究以太坊智能合约数据的强大工具,它可以查询,提取和可视化以太坊区块链上的数据.你在 DuneAnalytics可以通过 SQL查询 月的线上数据信息,这不需要你运行 月节点,也不需要了解 RPC API跟在普通数据库使用 SQL体验一样.

本人理解

简单来说,PostgreSQL + Ethereum的组合,PostgreSQL是世界上非常知名的数据库软件,比 MySQL更加强大,是贫民版的 oracle数据库(甲骨文数据库,跟预言机关系不大).
DuneAnalytics是把 月的链上数据,已结构化的形式存放到数据库中,只要你会用 SQL就可以构造不同的查询条件进行灵活的查询.
之前分析区块链数据的时候,DuneAnalytics是我的构想之一,只不过人家做的真好.

了解 SQL

数据库——存放数据的仓库,SQL是方便查询、更新、删除数据的工具.
上手使用 SQL很简单,只要会填空题就可以了,完成以下填空题,就成为了 1个标准的 SQL查询.

select * from <表> where <查询范围> order by <排序> limit <数量>

假设有如下数据,表名为 articles時間
著者
タイトル
URL
導入
2020 - 01 - 03
洋芋
在线ABI编码工具
https://abi.hashex.org/
在线ABI编码工具
2020 - 02 - 05
ボブ
銀貨
https://gitcoin.co/
激励开源开发者的网络
2020 - 03 - 13
フロウ
ダオ组织贡献跟踪工具
https://sourcecred.io
ダオ组织贡献跟踪工具
2020 - 05 - 14
加一
クリプト交易分析平台
https://skew.com/dashboard/bitcoin-futures
クリプト衍生品交易分析平台

select * from articles  -- 显示所有数据

select author from articles -- 只显示 author

select * from articles limit 1 -- 只显示1条数据

select * from articles order by time desc  -- 根据 time 倒序排列，显示所有数据

select * from articles order by time desc limit 2  -- 根据 time 倒序排列数据，只显示2条数据

select * from articles where author= 'bob'  -- 只显示 author= bob 的数据，必须是单引号

select * from articles where author= 'bob' and time > 2020-05-01

PostgreSQL

严格的SQL格式

pgsql对SQL语法的要求非常严苛,更接近 SQL标准,比MySQL要严格.

author= 'bob' -- 正确

author= "bob" -- 错误

系统函数表

关键字: information_schema pg_catalog

-- 查询 duneanalytics 所有数据库的所有表
SELECT * FROM pg_catalog.pg_tables
WHERE schemaname != 'pg_catalog' AND
    schemaname != 'information_schema';

-- https://duneanalytics.com/queries/50446
-- 查询表结构
SELECT
  table_name,
  column_name,
  data_type
FROM information_schema.columns WHERE table_name = 'blocks';

-- 查询 uniswap_v2 数据库的所有表
SELECT * FROM pg_catalog.pg_tables
  WHERE schemaname = 'uniswap_v2';

-- 模糊查询，查询数据库名类似 aave 的数据库
SELECT DISTINCT(schemaname) FROM pg_catalog.pg_tables
  WHERE schemaname LIKE '%aave%';

-- 模糊查询，查询表名类似 evt 的表
SELECT DISTINCT(tablename) FROM pg_catalog.pg_tables
  WHERE tablename LIKE '%evt%';

-- 模糊查询，查询uniswap_v2数据库中表名类似 evt 的表
SELECT DISTINCT(tablename) FROM pg_catalog.pg_tables
  WHERE tablename LIKE '%evt%' and schemaname = 'uniswap_v2';

DuneAnalytics常见表的数据结构

ブロック

记录区块数据

-- https://duneanalytics.com/queries/50446

select * from ethereum.blocks order by time desc limit 1;

区块浏览器

取引

记录交易数据

select * from ethereum.transactions order by block_time desc limit 1;

-- https://duneanalytics.com/queries/50439

契約

记录合约数据

-- https://duneanalytics.com/queries/50448

select * from  ethereum.contracts order by created_at desc limit 1;

SELECT
  table_name,
  column_name,
  data_type
FROM information_schema.columns WHERE table_name = 'contracts';

ログ

记录 月所有的事件,包括 トランスミントを焼く等

-- https://duneanalytics.com/queries/50451

SELECT
  table_name,
  column_name,
  data_type
FROM information_schema.columns WHERE table_name = 'logs';

select * from ethereum.logs limit 1;

価格。レイヤ1 USD表

以分钟为单位的 月和许多其他流行代币的价格表

SELECT * FROM pg_catalog.pg_tables
  WHERE schemaname = 'prices';

select * from prices.layer1_usd order by minute desc limit 1;

select * from prices.layer1_usd where symbol='ETH' order by minute desc limit 5;

SELECT DISTINCT(symbol) from prices.layer1_usd limit 10;

ERC 20" erc 20 " evtchen transfer "表

记录发送 トークン时触发的所有转账事件

SELECT * FROM pg_catalog.pg_tables
  WHERE schemaname = 'erc20';

select * from erc20.tokens limit 10;

select * from erc20."ERC20_evt_Transfer" limit 10;

select * from erc20."ERC20_evt_Transfer" order by evt_block_time limit 10; -- 表名必须是 erc20."ERC20_evt_Transfer"

重点说说 ログ表相关的内容

如何产生 ログ?

已 UNISWAP - V 2智能合约代码为例,在调用 swap方法的时候触发 Swap事件,这个事件会记录到链上.
砂丘平台会把这个事件记录到 ethereum.logs表里.

// https://github.com/Uniswap/uniswap-v2-core/blob/v1.0.1/contracts/UniswapV2Pair.sol#L51-L58

event Swap(
  address indexed sender,
  uint amount0In,
  uint amount1In,
  uint amount0Out,
  uint amount1Out,
  address indexed to
);

function swap(uint amount0Out, uint amount1Out, address to, bytes calldata data) external lock {
    // ...
  emit Swap(msg.sender, amount0In, amount1In, amount0Out, amount1Out, to); // 触发 Swap 事件
}

如何得到 イベントログハッシュ

请看以下连接,这里不做过多介绍
https://medium.com/mycrypto/understanding-event-logs-on-the-ethereum-blockchain-f4ae7ba50378
https://etherscan.io/tx/0xe64069acd123ec94b8a3316378183ba8bf42b40979df3b0bb57b0e7b9e47ef38#eventlog

UNISWAP常见的 イベントログハッシュ

PairCreated(address,address,address,uint256) 0x0d3648bd0f6ba80134a33ba9275ac585d9d315f0ad8355cddefde31afa28d0e9

Swap() 0xd78ad95fa46c994b6551d0da85fc275fe613ce37657fb8d5e3d130840159d822

Sync() 0x1c411e9a96e071241c2f21f7726b17ae89e3cab4c78be50e062b03a9fffbbad1

Mint() 0x4c209b5fc8ad50758f13e2e1088ba56a560dff690a1c6fef26394f4c03821c4f

Burn() 0xdccd412f0b1252819cb1fd330b93224ca42612892bb3f4f789976e6d81936496

ETH USDT交易对 为例

详细数据请看 https://v2.info.uniswap.org/pair/0x0d4a11d5eeaac28ec3f61d100daf4d40471f1852
我们找到 ETH USDT交易对的合约地址是 0x0d4a11d5eeaac28ec3f61d100daf4d40471f1852 .

-- 交易对产生了多少事件？
-- 结果 6124700
select count(*) from ethereum.logs where
  "contract_address"= '\x0d4a11d5eeaac28ec3f61d100daf4d40471f1852';

-- 合约创建日期
-- 运行了10分钟 还没有结果
select block_time, block_number, tx_index from ethereum.logs
  where "contract_address"= '\x0d4a11d5eeaac28ec3f61d100daf4d40471f1852'
  order by "block_time" asc limit 1;

-- pair 添加流动性次数
-- 结果 37176
select count(*) from ethereum.logs
  where "contract_address"= '\x0d4a11d5eeaac28ec3f61d100daf4d40471f1852'
  and "topic1" = '\x4c209b5fc8ad50758f13e2e1088ba56a560dff690a1c6fef26394f4c03821c4f';

パラメータ

パラメータ是变量替换
https://docs.duneanalytics.com/about/tutorials/dune-guides/tips#filter-queries-and-dashboards-with-parameters

select count(*) from ethereum.logs where
  "contract_address"= CONCAT('\x', substring('{{token_addr}}' from 3))::bytea;

实际例子

过去10天 每天发送的月的总量

select date_trunc('day', block_time) as "Date", sum(value/1e18) as "Value"
from ethereum."transactions"
where block_time > now() - interval '10 days'
group by 1 order by 1

--group by 1 按照 第1个字段分组
--order by 1 按照 第1个字段排序

トップ10トークンホルダー查询代币的分配情况

WITH transfers AS (
  SELECT
    evt_block_time,
    tr."from" AS address,
    -tr.value AS amount,
    contract_address
     FROM erc20."ERC20_evt_Transfer" tr
    WHERE contract_address = CONCAT('\x', substring('{{Token Address}}' from 3))::bytea -- Allow user to input 0x... format and convert to \x... format

UNION ALL

    SELECT
    evt_block_time,
    tr."to" AS address,
    tr.value AS amount,
      contract_address
     FROM erc20."ERC20_evt_Transfer" tr
     WHERE contract_address = CONCAT('\x', substring('{{Token Address}}' from 3))::bytea -- Allow user to input 0x... format and convert to \x... format
)

SELECT
  address,
  sum(amount/10^decimals) as balance
  FROM transfers tr
  LEFT JOIN erc20.tokens tok ON tr.contract_address = tok.contract_address
  GROUP BY 1
  ORDER BY 2 DESC
  LIMIT 10

查询 UNISWAPv 3 NFT添加流动性信息

关键是找到表 NonfungibleTokenPositionManager_evt_IncreaseLiquidity

-- 查询 uniswap_v3 数据库的所有表
SELECT * FROM pg_catalog.pg_tables
  WHERE schemaname = 'uniswap_v3';

  -- 模糊查询，查询表名类似 evt 的表
SELECT DISTINCT(tablename) FROM pg_catalog.pg_tables
  WHERE tablename LIKE '%evt%' and schemaname = 'uniswap_v3';

 select * from  uniswap_v3."NonfungibleTokenPositionManager_evt_IncreaseLiquidity" where
   contract_address = '\xc36442b4a4522e871399cd717abdd847ab11fe88';

参考:
https://learnblockchain.cn/article/1746
https://docs.duneanalytics.com/data-tables/data-tables/raw-data/ethereum-data
https://duneanalytics.com/browse/queries?user_name=shooter
https://medium.com/mycrypto/understanding-event-logs-on-the-ethereum-blockchain-f4ae7ba50378
http://emn178.github.io/online-tools/keccak_256.html
https://www.4byte.directory/event-signatures/
https://www.nansen.ai/
https://cloud.google.com/blog/topics/public-datasets/bitcoin-in-bigquery-blockchain-analytics-on-public-data
http://www.postgres.cn/v2/document