복잡한 분산 스토리지 대신, 빠르고 신뢰할 수 있는 단순한 S3 호환 스토리지를 찾는 경험담.
#garage#minio#object#s3#seaweedfs#versity
나는 그저 S3가 필요할 뿐이다. 내 요구사항은 꽤 기본적이다. 스케일 아웃은 필요 없다. 복제도 필요 없다. 그저 S3를 할 수 있고, 신뢰할 수 있으며, 느리지 않은 무언가가 필요할 뿐이다.
Minio는 끝났다. 인터페이스를 잘라낸 뒤 결국 플러그를 뽑아버렸다. 그들은 AI 업계의 돈을 좇기 위해 저장소를 archive 처리했는데, 그쪽 사람들은 Minio를 많이 활용해 왔으니 그들에겐 좋은 일일 것이다. 잘된 일이지만, 나는 예전에 그들의 테스트가 응답을 흉내만 내고 실제 코드를 테스트하지 않아서 버그를 놓치고 있다고 지적했을 때 그들이 대수롭지 않게 넘기는 모습을 본 뒤로는 이미 기대를 접었다. (한때 삭제 기능이 망가져 있었다)
Garage는 Rust로 만들어지고 있어서 새롭고 흥미롭지만, 내가 마지막으로 써봤을 때는(6개월 전쯤?) 그것도 불필요하게 복잡했다. 아직 매우 초기 단계이고, 한동안 개발이 멈췄었으며(자금 문제), 내가 마지막으로 확인했을 때는 내가 원하던 평범한 S3 기능 몇 가지도 빠져 있었다. 지금은 더 나아졌을지도 모른다. 그래도 여전히 너무 무겁게 느껴진다.
SeaweedFS는 솔직히 정말 멋지다. 그들의 접근 방식도 좋고, 그 위에 계층을 얹어서 WebDAV 같은 것도 지원할 수 있게 한 점도 마음에 든다. 뭐가 문제인지는 모르겠지만, master와 volume 노드로 돌리면 느리다. 새 weed mini 방식으로 바꿔도 여전히 느리다. 여기에 저장하는 건 평범한 파일 몇 GB 정도일 뿐이고 특별한 것도 아닌데, 심지어 내 LAN 안에서도 파일 하나를 내려받으려 하면 버벅이고 또 버벅인다. 처음엔 초당 수백 KB 정도로 시작했다가, 결국에는 대략 10mbit/s까지 올라간다. 왜 그런지 모르겠다. 이게 내 LAN 안인데, 왜 즉시 빨라지지 않는 거지?
CEPH는 괴물이다. 엄청나게 크다. 회사에서도 쓰고 있다. 내가 필요로 하는 것보다 훨씬 더 복잡하지만, 정말로 Amazon의 S3와 경쟁할 수 있는 무언가를 만들고 싶다면 아마 CEPH를 원할 것이다. SeaweedFS도 그에 꽤 근접한 능력을 갖추고 있긴 하다...
Versity GW -- 오, S3 백엔드 성능 벤치마킹에 관한 스레드에서 이걸 언급해 준 Reddit 댓글 작성자여, 정말 고맙다. 이것이 존재한다는 걸 아무도 모르는 것 같지만... Sandia National Labs, Los Alamos National Lab, 군, 여러 대학들은 아는 모양이다...!
Versity S3 Gateway currently supports generic POSIX file backend storage and Versity’s ScoutFS filesystem.
Versity의 주된 사용 사례가 무엇인지는 모르겠다. 다른 S3 백엔드로 프록시할 수 있어서 인증을 외부에 노출하지 않아도 되거나, 사용자 정의 인증 계층을 제공할 수 있는 듯하다. 읽기 통과 캐싱도 하나? 모르겠다, 확인 안 해봤다. 로컬 버킷 몇 개와 프록시되는 버킷 몇 개를 함께 둘 수 있나? 모르겠다, 확인 안 해봤다.
하지만 이게 할 수 있는 일은 로컬 파일시스템을 그냥 S3 저장소로 쓰는 것이고, 나에겐 그걸로 충분하다. 그리고 이 모든 것을 관리할 수 있는 웹 인터페이스도 제공하고, 익명/공개 읽기 버킷도 만들 수 있으며 정책도 처리한다. 흥미로운 점은 객체의 메타데이터 저장에 xattrs를 사용한다는 것이다.
그래서 이걸 넣고, rclone으로 데이터를 옮기고, 테스트를 좀 해봤더니, 기대하던 대로 내 LAN에서 번개처럼 빠른 성능이 나온다 -- 회선 속도 그대로 다운로드된다! 드디어 제정신인 세상으로 돌아왔다.
이제 누군가 작업 중인 진정한 ZFS native object storage로 이것을 바꿀 날만 기다리면 된다...
게시자 feld, 2026-04-10
