S3

Архив партий VOG в Parquet: 17 миллионов игр с диска сервера в S3

Архив партий VOG в Parquet: 17 миллионов игр с диска сервера в S3

Как архив VOG за двадцать пять лет — около 17,7 млн партий в собственном файловом формате на диске игрового сервера — переехал в Parquet в S3-совместимом хранилище: почему не Iceberg и не protobuf, почему первое поколение с ходами по колонкам пришлось переделать в «транскрипт как есть», что ломалось при выгрузке, как сверяли результат и как старые партии стали открываться в браузере

ClickHouse и S3: многоуровневое хранение и внешние данные

ClickHouse и S3: многоуровневое хранение и внешние данные

Две грани S3 в ClickHouse: многоуровневое хранение (hot/cold-тиринг MergeTree через storage policies и TTL MOVE на S3, separation of storage/compute) и S3 table function для запроса и загрузки Parquet прямо из объектного хранилища. С живым стендом на MinIO