Ведущие IT-компании объединились вокруг формата Apache Iceberg

14 октября 2024, 08:17 · Савелий Громов

Ведущие поставщики технологий для хранения и анализа больших данных объявили о новых функциях, поддерживающих открытый формат таблиц Apache Iceberg.

AWS, Cloudera, Google и Snowflake выступили в поддержку Apache Iceberg. Этот формат конкурирует с Delta Lake от Databricks и Apache Hudi за то, чтобы стать стандартным форматом таблиц, позволяющим пользователям запрашивать данные с помощью любого аналитического движка без их перемещения.

Google представил предварительную версию таблиц BigQuery для Apache Iceberg в своем облачном хранилище данных BigQuery. AWS добавил поддержку безопасного обмена таблицами из озера данных, включая формат Apache Iceberg, в свой сервис Redshift.

Cloudera и Snowflake объявили об интеграции, расширяющей совместимость их решений на базе Apache Iceberg.

Microsoft и Databricks пошли своим путем, отдав предпочтение формату Delta Lake. Однако Databricks надеется в будущем создать единый стандарт, объединяющий лучшие черты Iceberg и Delta.

Эксперты отмечают растущий импульс вокруг Apache Iceberg и надеются, что он может стать де-факто стандартом в отрасли.