Background Image

FORUM

?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 댓글로 가기 인쇄

migration tool을 이용해 대용량의 xml 파일을 큐브리드 서버로 마이그레이션 중입니다.

xml 파일의 크기는 약 7기가 정도 됩니다.

xe가 주요 내용이라 comment나 document 테이블의 용량이 큰 편인데 수백만건이 되는 xe_comments 테이블은 별 이상 없이 마이그레이션이 되었는데 xe_documents나 기타 몇 몇 테이블에서는 테이블의 데이터 적재 실패가 발생합니다.


  이렇게 데이터 적재 실패가 발생하는 원인에는 어떤 것들이 있을까요?


1. 원본 DB가 깨져서 그런걸까요? 그렇다면 REPAIR 작업 후에는 괜찮아 질런지요?

2. 아니면 xml 파일을 생성하는 과정이나 xml 파일을 클라이언트 컴퓨터로 다운로드 받는 중 에러가 발생했을까요? 어떤 경우의 수가 있을 수 있는지 알려주시면 마이그레이션 작업에 도움이 될 것 같습니다.

3. 또는 큐브리드 서버와의 통신문제일까요? 방금 마이그레이션이 진행되는 동안 메니저 프로그램으로 접속을 시도했더니 서버 접속에 실패했거나 time out이 되는 경우가 발생하고 있습니다. 이럴 때는 어김 없이 적재 실패가 나오는 것을 보면 이것도 원인이 될 수 있겠네요. 기본 설정으로 500건씩 처리하고 있는데 처리건수를 좀 낮추면 괜찮아 질까요?


그리고 이건 추가질문인데 

1. 마이그레이션 클라이언트에서 처음에 xe 스키마를 이용해 쉬운 변환인가? 에 체크하면 xml파일 확인 후 다음 버튼을 아무리 눌러도 마이그레이션 대상 테이블을 설정하는 단계로 넘어가지가 않습니다. 무슨 이유일까요?

2. 이처럼 중규모 이상의 mysql 데이터 베이스를 마이그레이션 할 때 팁 같은 것은 없을까요? 모든 DB를 한방에 xml로 만들고 변환하려니 파일도 커지고 시간도 많이 걸리고 중간에 에러가 나면 다시 마이그레이션 하기도 힘들더라고요. 테이블 별로 쪼개서 해야 하는 건지... 고민이 많습니다. 도와 주시면 감사하겠습니다.


  • ?
    샤롱스판 2011.07.11 20:51

    1) 이번주 내에 CMT 새 버전이 나오는데, 해당 부분에 개선이 있을 것 같습니다. 로컬로 받으신 XML을 쿼리로 변환하는 과정에서 xe_document 에서 에러가 발생하는 것으로 추정하고 있습니다. CMT가 DB로 INSERT문을 실행하는 과정 중에 커넥션이 끊기는 경우 이를 적절하게 처리하지 못하고 Hang되는 현상을 발견하였습니다. 여러가지 원인이 있을 수 있기 때문에 도구개발팀이 패치하고 있습니다.

    2) 중급이상의 mysql -> cubrid로 전환할 때 xml로 내리신후 다시 cubrid로 로드하는 것보다는 CMT의 온라인 마이그레이션을 통해 MySQL 온라인 서버에 접속하여 CUBRID로 이전할 수도 있습니다.

    3) xe 스키마를 이용한 변환 옵션을 누르는 경우, 테이블 선택하는 단계를 생략하고 일괄로 작업을 하였으나 불편함이 있어서 이번주에 나오는 패치에서 해결하는 것으로 논의하였습니다. 패치 나오면 댓글로 알려 드리도록 하겠습니다.

  • ?
    엔하늘 2011.07.11 21:18

    신속한 답변 감사합니다. 새로운 CMT 버전이 나오면 다시 해봐야겠습니다.


  • ?
    seongjoon 2011.07.11 21:57

    말씀하신 내용으로는 정확한 문제 파악에 어려움이 있습니다.

    Migration Tool 사용시에 에러가 발생하였다면 error log가 생겼을 것으로 예상됩니다.

    해당 에러로그를 첨부하여 올려주시면 문제점을 파악하는데 도움이 될 것 같습니다.

    에러 로그에 외부에 노출되면 안되는 정보들이 포함되어 있을 수도 있으니 비밀글 기능을 이용하여 올려주시면 될 것 같습니다.

  • ?
    엔하늘 2011.07.11 22:26 SECRET

    "비밀글입니다."

  • ?
    CUBRID_DEV 2011.07.12 03:48

    ftp://ftp.cubrid.org/CUBRID_Tools/CUBRID_Migration_Toolkit/ 

    새버전이 나왔습니다. 말씀하신대로 CMT 내부에서 DB로 인서트 수행 도중 서버와의 커넥션을 잃을 경우 Retry를 하지 못하고 멈추는 오류가 있었는데 이를 개선한 버전입니다. cubrid DB 가 ON 상태에서 JDBC로 데이터를 로드하는 경우 동일하게 실패한다면, 해당 db를 정지하시고 오프라인 마이그레이션(내부적으로 cubrid loaddb 유틸리티를 사용하여 대량 인서트하게 됨)으로 수행해보시기 바랍니다.

  • ?
    엔하늘 2011.07.12 05:57

    감사합니다. xml을 이용해서 똑같이 마이그레이션 진행중인데 잘 되고 있습니다. 아마 documents 테이블의 레코드 사이즈가 큰데도 불구하고 빠르게 큐브리드 DB 서버와 마이그레이션을 진행하려다 커넥션이 끊겼나봅니다. 지금은 비교적 느린 속도로 끊기지 않고 잘 진행되고 있습니다.


List of Articles
번호 제목 글쓴이 날짜 조회 수
공지 CUBRID 사용자를 위한 DBeaver 도구 출시 안내 admin 2024.04.23 110
공지 SQLGate for CUBRID 영구 무료 라이선스 제공 file admin 2020.04.09 4473
1640 insert 중 에러문의 1 chocob 2014.08.12 5840
1639 inner join update 질문 4 장비맨 2009.04.24 23559
1638 index관련 질문입니다. 1 foxman 2011.01.31 8151
1637 index 목록 조회 문의 입니다. 2 서훈아빠 2018.10.18 1480
1636 iferror 함수 4 아영이 2019.01.18 5822
1635 if exists 조건 처리문? 2 콩이아부지 2013.03.06 63612
1634 ibatis에서 set타입 insert 문의드립니다 1 성수현 2016.12.03 13194
1633 ibatis에서 create문 생성 1 file kkong 2017.03.01 10211
1632 ibatis 시 설정 질문입니다. 3 rogah 2009.07.24 14342
1631 http://maven.cubrid.org/ repository 접속이 안 됨 1 일퍼센트 2015.04.22 5143
1630 html 특수문자 깨지지 않게 가져오는 법 1 씨유소박 2013.11.12 28364
1629 htf 함수관련 질문입니다. 1 님장사드리브큐 2017.03.31 9108
1628 hibernate ht_table명 생성 1 하이버 2015.12.22 6826
1627 heap_get_visible_version_from_log 에러 7 복분자 2018.05.24 275
1626 hb_thread_check_disk_failure 오류 문의 드립니다. 1 큐브짱 2022.05.11 188
1625 having 절을 서브쿼리로 사용하면 에러가 발생 1 배운다큐브 2017.07.18 713
1624 ha_make_slavedb.sh 스크립트 실행 에러 2 secret QA 2013.09.14 12
1623 ha_make_slavedb.sh step5에서 에러 와 질문 2 kimsuny 2013.11.07 9344
1622 ha 스크립트 완료 문구 뜬후에... 5 QA 2013.09.27 10335
1621 ha 스크립트 돌리는 중에 에러 2 QA 2013.09.17 9613
Board Pagination Prev 1 ... 114 115 116 117 118 119 120 121 122 123 ... 200 Next
/ 200

Contact Cubrid

대표전화 070-4077-2110 / 기술문의 070-4077-2113 / 영업문의 070-4077-2112 / Email. contact_at_cubrid.com
Contact Sales