Background Image

FORUM

?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 댓글로 가기 인쇄

migration tool을 이용해 대용량의 xml 파일을 큐브리드 서버로 마이그레이션 중입니다.

xml 파일의 크기는 약 7기가 정도 됩니다.

xe가 주요 내용이라 comment나 document 테이블의 용량이 큰 편인데 수백만건이 되는 xe_comments 테이블은 별 이상 없이 마이그레이션이 되었는데 xe_documents나 기타 몇 몇 테이블에서는 테이블의 데이터 적재 실패가 발생합니다.


  이렇게 데이터 적재 실패가 발생하는 원인에는 어떤 것들이 있을까요?


1. 원본 DB가 깨져서 그런걸까요? 그렇다면 REPAIR 작업 후에는 괜찮아 질런지요?

2. 아니면 xml 파일을 생성하는 과정이나 xml 파일을 클라이언트 컴퓨터로 다운로드 받는 중 에러가 발생했을까요? 어떤 경우의 수가 있을 수 있는지 알려주시면 마이그레이션 작업에 도움이 될 것 같습니다.

3. 또는 큐브리드 서버와의 통신문제일까요? 방금 마이그레이션이 진행되는 동안 메니저 프로그램으로 접속을 시도했더니 서버 접속에 실패했거나 time out이 되는 경우가 발생하고 있습니다. 이럴 때는 어김 없이 적재 실패가 나오는 것을 보면 이것도 원인이 될 수 있겠네요. 기본 설정으로 500건씩 처리하고 있는데 처리건수를 좀 낮추면 괜찮아 질까요?


그리고 이건 추가질문인데 

1. 마이그레이션 클라이언트에서 처음에 xe 스키마를 이용해 쉬운 변환인가? 에 체크하면 xml파일 확인 후 다음 버튼을 아무리 눌러도 마이그레이션 대상 테이블을 설정하는 단계로 넘어가지가 않습니다. 무슨 이유일까요?

2. 이처럼 중규모 이상의 mysql 데이터 베이스를 마이그레이션 할 때 팁 같은 것은 없을까요? 모든 DB를 한방에 xml로 만들고 변환하려니 파일도 커지고 시간도 많이 걸리고 중간에 에러가 나면 다시 마이그레이션 하기도 힘들더라고요. 테이블 별로 쪼개서 해야 하는 건지... 고민이 많습니다. 도와 주시면 감사하겠습니다.


  • ?
    샤롱스판 2011.07.11 20:51

    1) 이번주 내에 CMT 새 버전이 나오는데, 해당 부분에 개선이 있을 것 같습니다. 로컬로 받으신 XML을 쿼리로 변환하는 과정에서 xe_document 에서 에러가 발생하는 것으로 추정하고 있습니다. CMT가 DB로 INSERT문을 실행하는 과정 중에 커넥션이 끊기는 경우 이를 적절하게 처리하지 못하고 Hang되는 현상을 발견하였습니다. 여러가지 원인이 있을 수 있기 때문에 도구개발팀이 패치하고 있습니다.

    2) 중급이상의 mysql -> cubrid로 전환할 때 xml로 내리신후 다시 cubrid로 로드하는 것보다는 CMT의 온라인 마이그레이션을 통해 MySQL 온라인 서버에 접속하여 CUBRID로 이전할 수도 있습니다.

    3) xe 스키마를 이용한 변환 옵션을 누르는 경우, 테이블 선택하는 단계를 생략하고 일괄로 작업을 하였으나 불편함이 있어서 이번주에 나오는 패치에서 해결하는 것으로 논의하였습니다. 패치 나오면 댓글로 알려 드리도록 하겠습니다.

  • ?
    엔하늘 2011.07.11 21:18

    신속한 답변 감사합니다. 새로운 CMT 버전이 나오면 다시 해봐야겠습니다.


  • ?
    seongjoon 2011.07.11 21:57

    말씀하신 내용으로는 정확한 문제 파악에 어려움이 있습니다.

    Migration Tool 사용시에 에러가 발생하였다면 error log가 생겼을 것으로 예상됩니다.

    해당 에러로그를 첨부하여 올려주시면 문제점을 파악하는데 도움이 될 것 같습니다.

    에러 로그에 외부에 노출되면 안되는 정보들이 포함되어 있을 수도 있으니 비밀글 기능을 이용하여 올려주시면 될 것 같습니다.

  • ?
    엔하늘 2011.07.11 22:26 SECRET

    "비밀글입니다."

  • ?
    CUBRID_DEV 2011.07.12 03:48

    ftp://ftp.cubrid.org/CUBRID_Tools/CUBRID_Migration_Toolkit/ 

    새버전이 나왔습니다. 말씀하신대로 CMT 내부에서 DB로 인서트 수행 도중 서버와의 커넥션을 잃을 경우 Retry를 하지 못하고 멈추는 오류가 있었는데 이를 개선한 버전입니다. cubrid DB 가 ON 상태에서 JDBC로 데이터를 로드하는 경우 동일하게 실패한다면, 해당 db를 정지하시고 오프라인 마이그레이션(내부적으로 cubrid loaddb 유틸리티를 사용하여 대량 인서트하게 됨)으로 수행해보시기 바랍니다.

  • ?
    엔하늘 2011.07.12 05:57

    감사합니다. xml을 이용해서 똑같이 마이그레이션 진행중인데 잘 되고 있습니다. 아마 documents 테이블의 레코드 사이즈가 큰데도 불구하고 빠르게 큐브리드 DB 서버와 마이그레이션을 진행하려다 커넥션이 끊겼나봅니다. 지금은 비교적 느린 속도로 끊기지 않고 잘 진행되고 있습니다.


List of Articles
번호 제목 글쓴이 날짜 조회 수
공지 SQLGate for CUBRID 영구 무료 라이선스 제공 file admin 2020.04.09 4444
1627 사용자 function 사용하는것이 비추천인지요? 1 아워나 2013.10.05 14989
1626 DB 조회시 질의를 실행하고 있습니다.. 2 파란토끼 2013.10.04 7848
1625 마스터서버 슬레이브서버 동기화 문제 3 QA 2013.10.03 10826
1624 QUBRID 매니저에서 실행계획을 볼려면.. 2 파란토끼 2013.10.02 9761
1623 cubrid hb start 했는데 너무 오래 걸립니다.. 1 QA 2013.10.02 9875
1622 JPA 연동 시 질문 1 sensible13 2013.09.28 14186
1621 큐브리드에도 테이블 정보를 담고 있는 DB가 있나요? 2 파란토끼 2013.09.27 9959
1620 substr 질의결과 2 file agkim 2013.09.27 10156
1619 ha 스크립트 완료 문구 뜬후에... 5 QA 2013.09.27 10335
1618 invalid buffer position 1 소라게 2013.09.26 14272
1617 ha 스크립트 step3 Permission denied, please try again 2 QA 2013.09.25 15829
1616 PHP 드라이버 Error: CCI, -20004 오류 해결 방법 문의 3 file 차오이 2013.09.22 9349
1615 ha 스크립트 돌리는 중에 에러 2 QA 2013.09.17 9613
1614 큐브리드 DB 서비스 자동시작 설정 1 쪼로롱 2013.09.16 11583
1613 1623글 답변 확인 부탁드립니다. 1 토네이도 2013.09.16 7865
1612 ha_make_slavedb.sh 스크립트 실행 에러 2 secret QA 2013.09.14 12
1611 매니져 접속이 안됩니다. 4 들뿔 2013.09.13 8374
1610 큐브리드 매니저에서 Select 시 다운현상 1 file 초콜릿75 2013.09.13 7829
1609 ++ cubrid server start: fail 2 file 토네이도 2013.09.13 13699
1608 linux demodb구동시 에러 1 시나브로 2013.09.12 11105
Board Pagination Prev 1 ... 114 115 116 117 118 119 120 121 122 123 ... 200 Next
/ 200

Contact Cubrid

대표전화 070-4077-2110 / 기술문의 070-4077-2113 / 영업문의 070-4077-2112 / Email. contact_at_cubrid.com
Contact Sales