Sự tiến hóa của truy cập dữ liệu Web3: Tổng quan về các bộ chỉ mục và các dự án liên quan

Công nghệ blockchain có cốt lõi là dữ liệu, nó là nền tảng để phát triển các ứng dụng phi tập trung (dApp). Mặc dù hiện tại phần lớn các cuộc thảo luận tập trung vào khả năng sử dụng dữ liệu (DA), tức là đảm bảo rằng tất cả các thành viên trong mạng đều có thể truy cập dữ liệu giao dịch mới nhất để xác minh, nhưng còn một khía cạnh quan trọng không kém thường bị bỏ qua: khả năng truy cập dữ liệu.

Trong thời đại blockchain mô-đun, giải pháp DA đã trở thành một phần không thể thiếu. Những giải pháp này đảm bảo rằng tất cả người tham gia đều có thể truy cập dữ liệu giao dịch, từ đó thực hiện xác minh theo thời gian thực và duy trì tính toàn vẹn của mạng. Tuy nhiên, chức năng của lớp DA giống như một bảng thông báo tạm thời hơn là một cơ sở dữ liệu vĩnh viễn. Điều này có nghĩa là dữ liệu sẽ không được lưu trữ vô thời hạn, mà sẽ bị xóa theo thời gian, giống như những tấm áp phích trên bảng thông báo cuối cùng sẽ được thay thế bằng những tấm áp phích mới.

So với điều đó, khả năng truy cập dữ liệu tập trung vào khả năng truy xuất dữ liệu lịch sử, điều này rất quan trọng đối với việc phát triển dApp và thực hiện phân tích blockchain. Đối với những nhiệm vụ cần truy cập dữ liệu trong quá khứ để đảm bảo sự đại diện và thực hiện chính xác, khía cạnh này càng trở nên quan trọng hơn. Mặc dù khả năng truy cập dữ liệu ít khi được thảo luận, nhưng nó quan trọng không kém gì khả năng sử dụng dữ liệu. Cả hai đóng vai trò khác nhau nhưng bổ sung cho nhau trong hệ sinh thái blockchain, và một phương pháp quản lý dữ liệu toàn diện phải giải quyết cả hai vấn đề này để hỗ trợ các ứng dụng blockchain mạnh mẽ và hiệu quả.

Cách truyền thống để truy xuất dữ liệu blockchain

Kể từ khi ra đời, blockchain đã hoàn toàn thay đổi cơ sở hạ tầng, thúc đẩy việc tạo ra các ứng dụng phi tập trung trong các lĩnh vực như trò chơi, tài chính và mạng xã hội(dApp). Tuy nhiên, việc xây dựng những dApp này cần truy cập vào một khối lượng dữ liệu blockchain khổng lồ, điều này vừa khó khăn vừa tốn kém.

Đối với các nhà phát triển dApp, một lựa chọn là lưu trữ và vận hành các nút RPC lưu trữ của riêng họ. Các nút này từ ban đầu đã lưu trữ tất cả dữ liệu chuỗi khối lịch sử, cho phép truy cập hoàn toàn vào dữ liệu. Tuy nhiên, việc duy trì các nút lưu trữ có chi phí cao, khả năng truy vấn cũng bị hạn chế, không thể truy vấn dữ liệu theo định dạng mà các nhà phát triển cần. Mặc dù việc vận hành các nút rẻ hơn là một lựa chọn, nhưng khả năng truy xuất dữ liệu của các nút này bị hạn chế, có thể ảnh hưởng đến hoạt động của dApp.

Một phương pháp khác là sử dụng các nhà cung cấp nút RPC thương mại. Các nhà cung cấp này chịu trách nhiệm về chi phí và quản lý của nút, và cung cấp dữ liệu qua các điểm cuối RPC. Các điểm cuối RPC công cộng là miễn phí, nhưng có giới hạn tốc độ, có thể ảnh hưởng tiêu cực đến trải nghiệm người dùng của dApp. Các điểm cuối RPC riêng tư cung cấp hiệu suất tốt hơn bằng cách giảm tắc nghẽn, nhưng ngay cả việc truy xuất dữ liệu đơn giản cũng cần nhiều lần giao tiếp qua lại. Điều này làm cho chúng trở nên nặng nề trong yêu cầu, và kém hiệu quả cho các truy vấn dữ liệu phức tạp. Hơn nữa, các điểm cuối RPC riêng tư thường khó mở rộng và thiếu khả năng tương thích giữa các mạng khác nhau.

Lựa chọn tốt hơn: Trình lập chỉ mục blockchain

Công cụ lập chỉ mục blockchain đóng vai trò quan trọng trong việc tổ chức dữ liệu trên chuỗi và gửi nó đến cơ sở dữ liệu để thuận tiện cho việc truy vấn, đó là lý do tại sao chúng thường được gọi là "Google của blockchain". Cách chúng hoạt động là lập chỉ mục dữ liệu blockchain và sử dụng ngôn ngữ truy vấn tương tự như SQL ( thông qua các API như GraphQL ) để làm cho nó luôn sẵn có. Bằng cách cung cấp một giao diện thống nhất để truy vấn dữ liệu, các công cụ lập chỉ mục cho phép các nhà phát triển nhanh chóng và chính xác truy xuất thông tin cần thiết bằng ngôn ngữ truy vấn tiêu chuẩn, từ đó làm đơn giản hóa quy trình.

Các loại bộ chỉ mục khác nhau tối ưu hóa việc truy xuất dữ liệu bằng nhiều cách khác nhau:

1. Bộ chỉ mục nút hoàn chỉnh: Trực tiếp trích xuất dữ liệu từ nút blockchain hoàn chỉnh, đảm bảo dữ liệu đầy đủ và chính xác, nhưng cần nhiều khả năng lưu trữ và xử lý.

2. Trình chỉ mục nhẹ: dựa vào nút đầy đủ để lấy dữ liệu cụ thể theo yêu cầu, giảm nhu cầu lưu trữ nhưng có thể làm tăng thời gian truy vấn.

3. Trình lập chỉ mục chuyên dụng: Tối ưu hóa cho các loại dữ liệu cụ thể hoặc blockchain cụ thể, chẳng hạn như dữ liệu NFT hoặc giao dịch DeFi.

4. Trình chỉ mục tổng hợp: Trích xuất dữ liệu từ nhiều blockchain và nguồn ( bao gồm thông tin ngoài chuỗi ), cung cấp giao diện truy vấn thống nhất, đặc biệt hữu ích cho dApp đa chuỗi.

Chỉ riêng Ethereum đã cần 3TB dung lượng lưu trữ, khi blockchain tiếp tục tăng trưởng, dữ liệu lưu trữ của nút lưu trữ Erigon cũng đang gia tăng liên tục. Giao thức lập chỉ mục triển khai nhiều bộ lập chỉ mục, có thể lập chỉ mục hiệu quả và truy vấn nhanh một lượng lớn dữ liệu, điều này là RPC không thể thực hiện.

Bộ chỉ mục cũng hỗ trợ truy vấn phức tạp, dễ dàng lọc dữ liệu theo các tiêu chí khác nhau và phân tích dữ liệu sau khi trích xuất. Một số bộ chỉ mục cho phép tổng hợp dữ liệu từ nhiều nguồn, tránh việc triển khai nhiều API trong các dApp đa chuỗi. Bằng cách phân phối trên nhiều nút, bộ chỉ mục cung cấp tính bảo mật và hiệu suất được cải thiện, trong khi các nhà cung cấp RPC có thể gặp phải gián đoạn và ngừng hoạt động do tính chất tập trung của chúng.

Tổng thể, so với các nhà cung cấp nút RPC, bộ lập chỉ mục đã nâng cao hiệu quả và độ tin cậy trong việc truy xuất dữ liệu, đồng thời giảm chi phí triển khai một nút đơn lẻ. Điều này khiến giao thức bộ lập chỉ mục blockchain trở thành sự lựa chọn hàng đầu cho các nhà phát triển dApp.

Ví dụ về bộ chỉ mục

Như đã đề cập trước đó, việc xây dựng dApp cần phải truy xuất và đọc dữ liệu từ blockchain để có thể vận hành dịch vụ của nó. Điều này bao gồm bất kỳ loại dApp nào, như DeFi, nền tảng NFT, trò chơi hoặc thậm chí mạng xã hội, vì các nền tảng này cần phải đọc dữ liệu trước khi thực hiện các giao dịch khác.

DeFi

Các giao thức DeFi cần thông tin khác nhau để báo giá, tỷ lệ, phí cụ thể cho người dùng. Các nhà tạo lập thị trường tự động (AMM) cần thông tin về giá và tính thanh khoản của một số quỹ để tính toán tỷ lệ hoán đổi, trong khi các giao thức cho vay cần tỷ lệ sử dụng để xác định tỷ lệ lãi suất cho vay và tỷ lệ nợ thanh lý. Việc nhập những thông tin này vào dApp là rất cần thiết trước khi tính toán lãi suất mà người dùng thực hiện.

trò chơi

GameFi cần truy cập và chỉ mục dữ liệu nhanh chóng để đảm bảo người dùng có thể chơi game một cách mượt mà. Chỉ thông qua việc truy xuất và thực hiện dữ liệu nhanh chóng, game Web3 mới có thể cạnh tranh về hiệu suất với game Web2, từ đó thu hút nhiều người dùng hơn. Những trò chơi này cần dữ liệu về quyền sở hữu đất, số dư token trong game, các thao tác trong game, v.v. Bằng cách sử dụng bộ chỉ mục, họ có thể đảm bảo tốt hơn dòng dữ liệu ổn định và thời gian hoạt động ổn định để cung cấp trải nghiệm chơi game hoàn hảo.

NFT

Thị trường NFT và nền tảng cho vay cần lập chỉ mục dữ liệu để truy cập các thông tin khác nhau, chẳng hạn như siêu dữ liệu NFT, dữ liệu sở hữu và chuyển nhượng, thông tin về tiền bản quyền, v.v. Lập chỉ mục nhanh chóng các loại dữ liệu này có thể tránh việc phải duyệt từng NFT một để tìm dữ liệu sở hữu hoặc thuộc tính NFT.

Dù là AMM( cần thông tin giá cả và thanh khoản cho DeFi tự động tạo thị trường ), hay là ứng dụng SocialFi cần cập nhật bài viết của người dùng mới, việc nhanh chóng truy xuất dữ liệu là rất quan trọng cho việc vận hành bình thường của dApp. Nhờ có bộ chỉ mục, chúng có thể truy xuất dữ liệu một cách hiệu quả và chính xác, từ đó cung cấp trải nghiệm người dùng mượt mà.

phân tích

Bộ chỉ mục cung cấp một phương pháp để trích xuất dữ liệu cụ thể từ dữ liệu chuỗi khối gốc (, bao gồm các sự kiện hợp đồng thông minh trong mỗi khối ). Điều này tạo cơ hội cho phân tích dữ liệu cụ thể hơn, từ đó cung cấp cái nhìn toàn diện.

Ví dụ, giao thức giao dịch vĩnh viễn có thể xác định token nào có khối lượng giao dịch lớn và phát sinh phí cao, từ đó quyết định xem có nên đưa những token này vào danh sách hợp đồng vĩnh viễn trên nền tảng của mình hay không. Các nhà phát triển DEX có thể tạo bảng điều khiển cho sản phẩm của mình, để hiểu sâu về các pool thanh khoản có tỷ suất lợi nhuận cao nhất hoặc tính thanh khoản mạnh nhất. Họ cũng có thể tạo bảng điều khiển công cộng, cho phép các nhà phát triển tự do linh hoạt truy vấn bất kỳ loại dữ liệu nào mà họ muốn hiển thị trên biểu đồ.

Do có nhiều trình lập chỉ mục blockchain có sẵn, việc nhận diện sự khác biệt giữa các giao thức chỉ mục là rất quan trọng để đảm bảo các nhà phát triển chọn được trình lập chỉ mục phù hợp nhất với nhu cầu của họ.

Tóm tắt về bộ chỉ mục blockchain

The Graph

The Graph là giao thức lập chỉ mục đầu tiên khởi động trên Ethereum, cho phép dễ dàng truy vấn dữ liệu giao dịch trước đây khó tiếp cận. Nó sử dụng subgraph để định nghĩa và lọc các tập dữ liệu thu thập từ blockchain, chẳng hạn như tất cả các giao dịch liên quan đến bể USDC/ETH của một DEX.

Sử dụng chứng minh chỉ mục, các chỉ mục viên staking token gốc GRT cho dịch vụ chỉ mục và truy vấn, người ủy thác có thể chọn staking token của họ ở đây. Các nhà tổ chức có thể truy cập các subgraph chất lượng cao, giúp các chỉ mục viên xác định các subgraph nào cần biên soạn dữ liệu để kiếm phí truy vấn tốt nhất. Trong quá trình chuyển đổi sang phi tập trung hơn, The Graph cuối cùng sẽ ngừng dịch vụ lưu trữ của mình và yêu cầu các subgraph nâng cấp lên mạng của nó, đồng thời cung cấp chỉ mục viên nâng cấp.

Cơ sở hạ tầng của nó giúp chi phí trung bình cho mỗi triệu truy vấn đạt 40 đô la, thấp hơn nhiều so với chi phí của các nút tự lưu trữ. Sử dụng nguồn dữ liệu tệp, nó cũng hỗ trợ lập chỉ mục song song cho cả dữ liệu trên chuỗi và ngoài chuỗi, nhằm đạt được việc truy xuất dữ liệu hiệu quả.

Phần thưởng cho bộ chỉ mục của The Graph đã liên tục tăng trong vài quý vừa qua. Điều này một phần là do sự gia tăng khối lượng truy vấn, nhưng cũng được cho là do sự tăng giá của token, vì họ dự định tích hợp truy vấn hỗ trợ bởi trí tuệ nhân tạo trong tương lai.

Subsquid

Subsquid là một hồ dữ liệu phi tập trung, có thể mở rộng theo chiều ngang và theo kiểu điểm-điểm, có khả năng tổng hợp hiệu quả một lượng lớn dữ liệu trên chuỗi và ngoài chuỗi, đồng thời được bảo vệ thông qua chứng minh không kiến thức. Là một mạng lưới công cụ phi tập trung, mỗi nút chịu trách nhiệm lưu trữ dữ liệu từ một tập hợp các khối cụ thể, giúp tăng tốc quá trình truy xuất dữ liệu thông qua việc xác định nhanh chóng các nút lưu trữ dữ liệu cần thiết.

Subsquid cũng hỗ trợ chỉ mục theo thời gian thực, cho phép chỉ mục trước khi khối được xác nhận cuối cùng. Nó cũng hỗ trợ lưu trữ dữ liệu theo định dạng mà nhà phát triển chọn, giúp dễ dàng phân tích hơn với các công cụ như BigQuery, Parquet hoặc CSV. Ngoài ra, subgraph có thể được triển khai trên mạng Subsquid mà không cần di chuyển đến Squid SDK, cho phép triển khai không cần mã.

Mặc dù vẫn đang trong giai đoạn thử nghiệm, Subsquid đã đạt được những số liệu ấn tượng, với hơn 80.000 người dùng thử nghiệm, triển khai hơn 60.000 bộ chỉ mục Squid, và có hơn 20.000 nhà phát triển đã được xác minh trên mạng. Gần đây, vào ngày 3 tháng 6, Subsquid đã khởi động mạng chính của hồ dữ liệu của mình.

Ngoài việc lập chỉ mục, hồ dữ liệu Subsquid Network còn có thể thay thế RPC trong các trường hợp sử dụng như phân tích, ZK/TEE đồng xử lý, đại lý AI và Oracle.

SubQuery

SubQuery là một mạng lưới cơ sở hạ tầng trung gian phi tập trung, cung cấp dịch vụ RPC và dữ liệu chỉ mục. Nó ban đầu hỗ trợ mạng Polkadot và Substrate, hiện đã mở rộng để bao gồm hơn 200 chuỗi. Cách hoạt động của nó tương tự như The Graph sử dụng bằng chứng chỉ mục, nơi các chỉ mục viên chỉ mục dữ liệu và cung cấp yêu cầu truy vấn, các bên ủy thác sẽ đặt cổ phần vào các chỉ mục viên. Tuy nhiên, nó đã giới thiệu người tiêu dùng để gửi đơn đặt hàng mua, nhằm đảm bảo rằng thu nhập của các chỉ mục viên được bảo đảm, không phải của nhà quản lý.

Nó sẽ giới thiệu các nút dữ liệu SubQuery hỗ trợ phân mảnh, nhằm ngăn chặn việc đồng bộ dữ liệu mới liên tục giữa các nút, từ đó tối ưu hóa hiệu quả truy vấn, đồng thời tiến tới phi tập trung lớn hơn. Người dùng có thể chọn trả khoảng 1 SQT token cho mỗi 1000 yêu cầu như phí tính toán, hoặc thiết lập phí tùy chỉnh cho bộ chỉ mục thông qua giao thức.

Mặc dù SubQuery chỉ mới ra mắt token của mình vào đầu năm nay, nhưng phần thưởng phát hành cho các nút và người ủy thác cũng tăng theo giá trị USD, điều này cũng đại diện cho số lượng dịch vụ truy vấn được cung cấp trên nền tảng của nó ngày càng tăng. Kể từ TGE, tổng số SQT được staking đã tăng từ 6 triệu lên 125 triệu, nhấn mạnh sự gia tăng mức độ tham gia vào mạng lưới của nó.

Covalent

Covalent là một mạng lưới lập chỉ mục phi tập trung, được tạo ra bởi các nhà sản xuất mẫu khối (BSP) thông qua các nút mạng bằng cách xuất dữ liệu blockchain theo lô, và phát hành chứng minh trên blockchain Covalent L1. Các dữ liệu này sau đó được các nhà sản xuất kết quả khối (BRP) tinh chỉnh theo các quy tắc đã định sẵn, lọc ra những dữ liệu đáp ứng yêu cầu.

Thông qua API thống nhất, các nhà phát triển có thể dễ dàng trích xuất dữ liệu blockchain liên quan với định dạng yêu cầu và phản hồi nhất quán, mà không cần viết các truy vấn phức tạp tùy chỉnh để truy cập dữ liệu. Có thể sử dụng token CQT được thanh toán trên Moonbeam làm phương tiện thanh toán để trích xuất các tập dữ liệu đã được cấu hình trước từ nhà cung cấp mạng.

Phần thưởng của Covalent từ quý 1 năm 23 đến quý 1 năm 24 dường như có xu hướng tăng trưởng tổng thể, một phần là do giá token Covalent CQT tăng.

Lưu ý khi chọn bộ chỉ mục

Tính tùy chỉnh của dữ liệu

Một số bộ chỉ mục ( như Covalent ) là bộ chỉ mục chung, chỉ cung cấp bộ dữ liệu được cấu hình sẵn tiêu chuẩn thông qua API. Mặc dù chúng có thể nhanh chóng, nhưng chúng không thể cung cấp cho