Background Image

FORUM

?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 댓글로 가기 인쇄

migration tool을 이용해 대용량의 xml 파일을 큐브리드 서버로 마이그레이션 중입니다.

xml 파일의 크기는 약 7기가 정도 됩니다.

xe가 주요 내용이라 comment나 document 테이블의 용량이 큰 편인데 수백만건이 되는 xe_comments 테이블은 별 이상 없이 마이그레이션이 되었는데 xe_documents나 기타 몇 몇 테이블에서는 테이블의 데이터 적재 실패가 발생합니다.


  이렇게 데이터 적재 실패가 발생하는 원인에는 어떤 것들이 있을까요?


1. 원본 DB가 깨져서 그런걸까요? 그렇다면 REPAIR 작업 후에는 괜찮아 질런지요?

2. 아니면 xml 파일을 생성하는 과정이나 xml 파일을 클라이언트 컴퓨터로 다운로드 받는 중 에러가 발생했을까요? 어떤 경우의 수가 있을 수 있는지 알려주시면 마이그레이션 작업에 도움이 될 것 같습니다.

3. 또는 큐브리드 서버와의 통신문제일까요? 방금 마이그레이션이 진행되는 동안 메니저 프로그램으로 접속을 시도했더니 서버 접속에 실패했거나 time out이 되는 경우가 발생하고 있습니다. 이럴 때는 어김 없이 적재 실패가 나오는 것을 보면 이것도 원인이 될 수 있겠네요. 기본 설정으로 500건씩 처리하고 있는데 처리건수를 좀 낮추면 괜찮아 질까요?


그리고 이건 추가질문인데 

1. 마이그레이션 클라이언트에서 처음에 xe 스키마를 이용해 쉬운 변환인가? 에 체크하면 xml파일 확인 후 다음 버튼을 아무리 눌러도 마이그레이션 대상 테이블을 설정하는 단계로 넘어가지가 않습니다. 무슨 이유일까요?

2. 이처럼 중규모 이상의 mysql 데이터 베이스를 마이그레이션 할 때 팁 같은 것은 없을까요? 모든 DB를 한방에 xml로 만들고 변환하려니 파일도 커지고 시간도 많이 걸리고 중간에 에러가 나면 다시 마이그레이션 하기도 힘들더라고요. 테이블 별로 쪼개서 해야 하는 건지... 고민이 많습니다. 도와 주시면 감사하겠습니다.


  • ?
    샤롱스판 2011.07.11 20:51

    1) 이번주 내에 CMT 새 버전이 나오는데, 해당 부분에 개선이 있을 것 같습니다. 로컬로 받으신 XML을 쿼리로 변환하는 과정에서 xe_document 에서 에러가 발생하는 것으로 추정하고 있습니다. CMT가 DB로 INSERT문을 실행하는 과정 중에 커넥션이 끊기는 경우 이를 적절하게 처리하지 못하고 Hang되는 현상을 발견하였습니다. 여러가지 원인이 있을 수 있기 때문에 도구개발팀이 패치하고 있습니다.

    2) 중급이상의 mysql -> cubrid로 전환할 때 xml로 내리신후 다시 cubrid로 로드하는 것보다는 CMT의 온라인 마이그레이션을 통해 MySQL 온라인 서버에 접속하여 CUBRID로 이전할 수도 있습니다.

    3) xe 스키마를 이용한 변환 옵션을 누르는 경우, 테이블 선택하는 단계를 생략하고 일괄로 작업을 하였으나 불편함이 있어서 이번주에 나오는 패치에서 해결하는 것으로 논의하였습니다. 패치 나오면 댓글로 알려 드리도록 하겠습니다.

  • ?
    엔하늘 2011.07.11 21:18

    신속한 답변 감사합니다. 새로운 CMT 버전이 나오면 다시 해봐야겠습니다.


  • ?
    seongjoon 2011.07.11 21:57

    말씀하신 내용으로는 정확한 문제 파악에 어려움이 있습니다.

    Migration Tool 사용시에 에러가 발생하였다면 error log가 생겼을 것으로 예상됩니다.

    해당 에러로그를 첨부하여 올려주시면 문제점을 파악하는데 도움이 될 것 같습니다.

    에러 로그에 외부에 노출되면 안되는 정보들이 포함되어 있을 수도 있으니 비밀글 기능을 이용하여 올려주시면 될 것 같습니다.

  • ?
    엔하늘 2011.07.11 22:26 SECRET

    "비밀글입니다."

  • ?
    CUBRID_DEV 2011.07.12 03:48

    ftp://ftp.cubrid.org/CUBRID_Tools/CUBRID_Migration_Toolkit/ 

    새버전이 나왔습니다. 말씀하신대로 CMT 내부에서 DB로 인서트 수행 도중 서버와의 커넥션을 잃을 경우 Retry를 하지 못하고 멈추는 오류가 있었는데 이를 개선한 버전입니다. cubrid DB 가 ON 상태에서 JDBC로 데이터를 로드하는 경우 동일하게 실패한다면, 해당 db를 정지하시고 오프라인 마이그레이션(내부적으로 cubrid loaddb 유틸리티를 사용하여 대량 인서트하게 됨)으로 수행해보시기 바랍니다.

  • ?
    엔하늘 2011.07.12 05:57

    감사합니다. xml을 이용해서 똑같이 마이그레이션 진행중인데 잘 되고 있습니다. 아마 documents 테이블의 레코드 사이즈가 큰데도 불구하고 빠르게 큐브리드 DB 서버와 마이그레이션을 진행하려다 커넥션이 끊겼나봅니다. 지금은 비교적 느린 속도로 끊기지 않고 잘 진행되고 있습니다.


List of Articles
번호 제목 글쓴이 날짜 조회 수
공지 CUBRID 사용자를 위한 DBeaver 도구 출시 안내 admin 2024.04.23 43
공지 SQLGate for CUBRID 영구 무료 라이선스 제공 file admin 2020.04.09 4458
1054 cubrid에 적용가능한 sms 모듈이 어떤게 있을까요? 3 dpals80 2011.08.05 10113
1053 cubrid_connect() 가 정의 되어 있지 않다고 나옵니다. 1 독고구검 2011.08.03 10435
1052 "DATABASE 검사" 도무지 끝날 기미가 안 보입니다 5 한종희 2011.08.02 8583
1051 데이터 등록에러 Sector/page table of file VFID 1 스카이 2011.07.29 8172
1050 Attempt to call a method related to scrollability of non-scrollable ResultSet. 오류 문의 1 cuins 2011.07.28 12568
1049 서비스 관련 2 브리즈 2011.07.28 7516
1048 [java] 두개의 PreparedStatement 할당후 close 시 문제 2 cuins 2011.07.27 10828
1047 PHP + Apache + Cubrid 연동 질문 입니다. 3 지누 2011.07.27 11347
1046 Oracle 사용자 팁 문의 1 비형여자 2011.07.26 9689
1045 exception 문의 1 비형여자 2011.07.22 7839
1044 CUBRID DB 호스팅 시 UTF-8 타입 사용. 1 ezzone 2011.07.19 7656
1043 데이타베이스 또는 테이블스페이스 생성 시 자동증가 옵션이 어떻게 되는지?? 3 풀소리 2011.07.19 9850
1042 HA 복제시 매니저에서의 테이블 생성 1 유니콘 2011.07.15 18502
1041 [급]Cubrid메니저에서 Unlod 후 load시 오류 3 file 별솔아범 2011.07.15 23907
1040 HA관련 CUBRID Manager 에서 대시보드 문의드립니다... 2 file 반짝이 2011.07.13 25736
1039 JSP에서 데이터베이스 연결 어떻게 해요? 1 JH 2011.07.12 12169
» migration tool을 이용해 마이그레이션 작업 중 테이블의 데이터 적재 실패 문제 6 엔하늘 2011.07.11 10172
1037 PDO가 지원되고 있는 건가요? 1 kkh 2011.07.09 10663
1036 garbage_collection=yes 설정시 CM(테이블편집-SQL문 탭) 문제입니다... 3 file 반짝이 2011.07.09 8646
1035 3.1에서 4.0 업그레이드 후 4 유겸아빠 2011.07.08 8037
Board Pagination Prev 1 ... 143 144 145 146 147 148 149 150 151 152 ... 200 Next
/ 200

Contact Cubrid

대표전화 070-4077-2110 / 기술문의 070-4077-2113 / 영업문의 070-4077-2112 / Email. contact_at_cubrid.com
Contact Sales