remove hash from first column name
[MojoFacets.git] / lib / MojoFacets / Import / CSV.pm
index 83c9417..e8fa196 100644 (file)
@@ -10,13 +10,15 @@ use Data::Dump qw(dump);
 
 __PACKAGE__->attr('full_path');
 
+sub ext { '\.[ct]sv$' };
+
 sub data {
        my $self = shift;
 
        my $path = $self->full_path;
 
        my $encoding = 'utf-8';
-       if ( $path =~ m/\.([\w\-]+).csv/i ) {
+       if ( $path =~ m/\.([\w\-]+).[ct]sv/i ) {
                $encoding = $1;
        }
 
@@ -35,10 +37,21 @@ sub data {
        my @sep_by_usage = sort { $possible_delimiters->{$b} <=> $possible_delimiters->{$a} } keys %$possible_delimiters;
        my $sep_char = shift @sep_by_usage;
        while ( $sep_char =~ m/^\s$/ ) {
+               last if $sep_char eq "\t" && $path =~ m/\.tsv$/i;
                warn "## skip whitespace separator ",dump($sep_char);
                $sep_char = shift @sep_by_usage;
        }
 
+       while ( $sep_char =~ m/^\"$/ ) {
+               warn "## skip quote separator ",dump($sep_char);
+               $sep_char = shift @sep_by_usage;
+       }
+
+       if ( $sep_char !~ m/,/ && $possible_delimiters->{','} && $path =~ m/\.csv/i ) {
+               $sep_char = ',';
+               warn "## csv file detected so prefer , as separator";
+       }
+
        warn "sep_char = [$sep_char] for $path\n";
 
        my $csv = Text::CSV->new ( { binary => 1, eol => $/, sep_char => $sep_char } )
@@ -47,6 +60,7 @@ sub data {
        while ( my $row = $csv->getline( $fh ) ) {
                if ( ! @header ) {
                        @header = @$row;
+                       $header[0] =~ s/^#// if $path =~ m/\.tsv/i; # remove hash from 1st column
                        next;
                }
                my $item;